По преданию строителем собора был земской староста Иван Кириллович Коробов. На местном диалекте слово «верх» означало овраг, таким образом название связано с особенностями рельефа города. Храм построен в стиле «московского барокко», отличается стройностью пропорций и богатством архитектурных деталей. Наружная отделка сохранилась почти полностью. Здание храма каменное, двухэтажное. Кровля четырехскатная, увенчана пятью главами. По бокам верхнего этажа находятся галереи, опирающиеся на четыре романские арки, через которые свет проходит в окна нижнего этажа. Изначально галереи были открытыми, в конце 1776 года их покрыли кровлей, опирающейся на пять четырехугольных колонн с каждой стороны. После Великой Отечественной войны галерею застеклили. В храм второго этажа и на галереи с обеих сторон ведут лестницы. Храм в XX веке не был закрыт. Он являлся кафедральным собором с 1926 года по 1999 на время закрытия Троицкого собора.