Родился в семье приходского священника Симбирской губернии. Окончил Алатырское духовное училище и Симбирскую семинарию.
В 1898 г. митрополит Московский Владимир (Богоявленский) взял его на диаконское место в Московский храм Христа Спасителя. По красоте голоса (низкий бас) и мастерству владения им Розова нередко сравнивали с Ф.И. Шаляпиным. В Успенском соборе Московского Кремля в то время пел синодальный хор, состоящий из низких голосов. Сюда Розов был переведен в 1902 г. с возведением в сан протодиакона. С 1903 г. он служил протодиаконом при соборе Зимнего дворца в Петербурге, куда был приглашен Императором Николаем II.
Оглашение всех важных государственных документов, манифестов перед народом на Красной площади и другие ответственные поручения он всегда выполнял с честью. С 1907 г. Розов вновь служил в Успенском соборе Кремля. Со всех концов Российской Империи съезжались ценители низких голосов на Воскресную службу в Неделю Православия в Успенский собор специально «послушать Розова».
На Поместном Соборе РПЦ 1917–18 гг. Константин Васильевич провозгласил многолетие новоизбранному патриарху Тихону, тогда же он был удостоен звания патриаршего архидиакона. А через 3 года, в 1921 г. в храме Христа Спасителя торжественно отметили 25-летие его диаконского служения, состоялось наречение Розова «Великим архидиаконом» с вручением двойного ораря и камилавки (впервые в истории Русской Церкви).

Игорь Чернозатонский