Вероятно, Радожицкий был свидетелем начала осуществления планов обустройства вод, предусмотренных военной администрацией. «Для составления проектов на предположенные при Кавказских минеральных водах казенные здания и для распоряжения постройкою сих зданий» по просьбе А. П. Ермолова еще в 1822 году из Петербурга на Горячие воды прибыли архитекторы братья Бернардацци — уроженцы Швейцарии. Они имели значительный опыт, участвовали в строительстве Исаакиевского собора и .других объектов столицы. На Горячих водах братья вошли в состав строительной комиссии, на которую впоследствии было возложено и управление всеми водами. В помощь комиссии из Москвы направили, военнорабочую роту из 250 солдат.

В 1823 году по плану строительной комиссии начали строить между Горячими и Железными водами, дорогу через селение Каррас. Этот путь сократил расстояние между Константиногорском и Железной горой вдвое.

В том же году заложили, а в 1824 году выстроили «дом для жилья, обращенный фасадом к северу». При источниках №1 и № 2 были сооружены купальни или просто деревянные помещения для ванн, а рядом с ними— каменные водоприемники. Новую гостиницу и ванны покрыли железными крышами. Курорт начал приобретать ухоженный вид.

Но обстановка на Кавказе была беспокойной. Для переезда лечащиеся нуждались в охране. Поэтому управляющий Кавказской областью генерал Горчаков разрешил выделить дополнительные средства и подписал «Временный наказ полицейских обязанностей местного начальства при Кавказских Минеральных водах». В одном из пунктов говорилось: «Для переезда на Железные воды в среду и воскресенье будет даваться конвой, но не по одиночке, а общий всем желающим отъезжать в тот день».

В 1825 году положено основание лечебному парку у горы Железной. Солдаты рабочей роты вырубили от гостиницы к источникам № 8, 14, 15, 16 просеку длиной около километра. Они же проложили «покойные дорожки ко всем известным источникам.., при Л° 8 устроили турлучный навес, заменявший галерею».