Первым зданием на месте нынешней церкви была, скорее всего, часовня, построенная в 1219 году в честь победы датчан на эстонцами. В победной битве, согласно легенде, датчане обрели Даннеброг, свой флаг.
Гимназия Густава Адольфа
Позднее рядом был построен женский цистерцианский монастырь Святого Михаила, один из двух средневековых монастырей Таллинна. Монастырь просуществовал около ста лет после Реформации и в итоге был закрыт в 1629 году. Помещения передали первой начальной школе Эстонии (ныне — гимназия Густава Адольфа) и первой таллиннской типографии. Позднее здания и монастырскую церковь использовал шведский гарнизон. После занятия Таллинна российкими войсками в ходе Северной войны (1710) монастырская церковь в 1719 году была переоборудована в православный гарнизонный храм в честь Преображения Господня.
В 1719 году Иван Зарудный по распоряжению Петра Первого изготовил для неё новый иконостас, который установили в церкви в 1732 году (он сохранился в храме до наших дней). Сам император Петр Первый побывал на богослужении в этой церкви в 1721 году. А в 1736 году в ней венчались Абрам Ганнибал (прадед Пушкина) и Xристина фон-Шёберг.