Собор в честь иконы Грузинской Божией Матери построен в стиле классицизма в 1835—1842 годах архитектором М.Коринфским. По сведениям из путеводителя А.Рощектаева строительство обошлось в 50 000 руб. Собранная, как частные пожертвования, сумма была огромной, по тем временам (на рубль можно было кампанией неделю гулять в кабаке). Интересно, что пятую часть (10 000 рублей) внёс один человек - казанский мещанин Дмитрий Орлов.
История иконы, давшей имя собору, такова: в 1622 году персидский шах Аббас покорил Грузию. При этом он захватил многие святыни Грузинской земли, которые затем предлагал для продажи русским купцам, бывающим в Персии. Среди многих похищенных вещей находилась и Грузинская икона Божией Матери, украшенная серебром и золотом. Один персидский торговец предложил её приказчику купца Егора Лыткина, Стефану Лазареву, находящемуся тогда по торговым делам в Персии. Стефан с радостью купил чудотворный образ Богородицы в 1625 году и некоторое время хранил его у себя.
В это время Ярославский купец Егор Лыткин в ночном сновидении увидел эту икону и ему было открыто, что она находится у его приказчика Лазарева, и в то же время получил приказание отослать Грузинскую икону в основанный в 1603 году Красногорский монастырь на Пинеге в Архангельской епархии. Об этом откровении Лыткин на некоторое время забыл. Но когда Стефан в 1629 году возвратился на родину и показал ему икону, то купец тотчас же вспомнил о видении. Он немедленно отправился с Грузинской иконой в Двинские приделы в Черногорскую обитель, где и исполнил виденное ранее предзнаменование. Черногорской обитель была названа потому, что была построена на гористой, мрачной с виду, окруженной густыми лесами местности (близ Холмогор), известной под именем Черной горы. Наименование "Красногорский монастырь" обитель эта получила только впоследствии.
После основания Раифской обители в 1661 году казанский митрополит Лаврентий распорядился послать под Холмогоры одного из лучших летописцев и снять точный список с Грузинской иконы. Список был торжественно встречен в Казани митрополитом и с почестями препровожден в Раифский монастырь.