Церковь Николая Чудотворца построена на том месте, где когда-то располагались сооружения Рубленого города (такое название носил Ярославский кремль). В XV столетии в крепости построили проездную башню с надвратной часовней. Пожар 1658 года настолько беспощадно прошелся по постройкам кремля, что оборонительные сооружения решили не отстраивать. Правда, новую проездную башню из камня все же возвели к 1668 году, а рядом с ней построили деревянную церковь в честь святителя Николая Чудотворца.
К концу XVII столетия на средства прихожан, которые в большинстве были судостроителями, возвели каменную церковь, напоминающую своей композицией «корабль». Все помещения в ней располагались вдоль оси восток-запад. У постройки не было традиционных для ярославских церквей галерей, а фасад практически лишен какого-либо декора. Внутри храма было два престола: во имя святителя Николая и во имя преподобного Александра Свирского.
Во время белогвардейского мятежа в 1918 году храм сильно пострадал от военных действий. К 1920 году церковь отреставрировали, но уже через два года ее упразднили. В 1924 году сильный ветер снес центральную главу (ее восстановили в начале 50-х годов прошлого века). При советской власти храм сначала занимала шиноремонтная мастерская, а с 1980 года здесь обосновался отдел реставрации ярославского Художественного музея. На балансе этого культурного учреждения церковь числится до сих пор.
