L'église, construite au Ve siècle, était située en dehors du mur de Constantin construit au IVe siècle. Cette locution en tē Chōra, qui signifie « dans la campagne », devint par la suite le diminutif du nom de l’église. Quand le mur théodosien fut érigé en 413-414, l'église se retrouva à l'intérieur du système défensif de la ville, mais garda le nom de Chora. Le nom pourrait avoir pris alors un sens plus spirituel, chora étant alors assimilé au ventre de la Vierge comme le laisse à penser l’inscription que l'on peut lire sur une mosaïque du narthex : « ἡ χώρα τοῦ ἀχωρήτου », c'est-à-dire : « Lieu d’incarnation du Dieu incommensurable » ou « Lieu qui contient celui qui ne peut être contenu dans aucun lieu ».
Cependant la majorité de ce qui est visible aujourd'hui date de 1077-1081, quand Maria Ducaina, la belle-mère d’Alexis Ier Comnène, fit reconstruire l'église en croix grecque inscrite, un style apparu au XIe siècle, qui servira de modèle pour les églises orthodoxes jusqu'au XVIIIe siècle. Au début du XIIe siècle, l’église souffrit d'un écroulement partiel, peut-être dû à un tremblement de terre. Elle fut reconstruite par Issac Comnène, le troisième fils d’Alexis. Cependant, ce n’est qu'après la troisième phase de construction, deux siècles plus tard, que l'église acquit la forme que nous lui connaissons aujourd’hui. Le puissant homme d'État Théodore Métochitès dota l’église de la plupart de ses magnifiques mosaïques et fresques. Cette décoration impressionnante fut exécutée entre 1315 et 1321. Les mosaïques sont une des meilleures illustrations de la renaissance artistique sous les Paléologues. En revanche, bien que nous connaissions les commanditaires de ces œuvres, les exécutants en restent inconnus. En 1328, Métochitès fut exilé par Andronic III Paléologue, mais il fut autorisé à revenir à Constantinople deux ans plus tard en tant que moine de la congrégation de la Chora.
En 1948, Thomas Whittemore et Paul A. Underwood, du Byzantine Institute of America et du Dumbarton Oaks Center for Byzantine Studies, ont commandité un programme de restauration. L'édifice cesse alors d’être une mosquée. En 1958, il fut ouvert au public en tant que musée.






