Деревянная Черная мечеть (или Кара-мечеть, как называли ее приверженцы ислама) на территории Астрахани была уже в XVIII столетии, хотя точной даты ее строительства не знает никто. В 1816 году деревянное здание сменила каменная постройка. При мечети работало медресе – традиционное мусульманское учебное заведение. В начале ХХ века приход мечети составляли 1208 человек.
После того, как в 1907 году в Астрахани было создано панисламское общество «Джамаат исламийа», при Черной мечети организовали мужское училище, в котором преподавали как местные учителя, так и приглашенные из-за границы.
При советской власти Черную мечеть закрыли. В 30-х годах прошлого века в ней некоторое время размещалась среднеобразовательная школа, а затем постройку забросили, вследствие чего она ветшала и разрушалась.
В июне 1975 года развалины мусульманской святыни признали памятником архитектуры местного значения. С 1990 года Черная мечеть внесена в перечень архитектурных объектов, требующих охраны государства.
Восстанавливать святыню начали в 2005 году. Реставрационные работы продолжались три года. После завершения реставрационно-отделочных работ Астрахань украсило двухэтажное здание с нежно-розовым оттенком внешних стен, нарядным фасадом и черными куполами. Интерьеры мечети максимально приближены к своему изначальному историческому виду.