De bouw van de toekomstige kern van de Grote Bazaar begon in de winter van 1455/56, kort na de Ottomaanse verovering van Constantinopel en maakte deel uit van een breder initiatief om de economische welvaart in Istanbul te stimuleren. Sultan Mehmed II liet in de buurt van zijn paleis in Constantinopel een gebouw oprichten voor de handel in textiel en juwelen. Het kreeg de naam Cevâhir Bedestan (“Bedesten van edelstenen”) en stond in het Osmaans Turks ook bekend als Bezzâzistan-ı Cedîd (“Nieuwe Bedesten”). Het woord bedesten is afgeleid van het Perzische woord bezestan, afgeleid van bez (“doek”), en betekent “bazaar van de lakenverkopers”. Het gebouw – in het Turks afwisselend İç (“Intern”), Atik (“Oud”), of Eski (“Oud”) Bedesten genoemd – ligt op de helling van de derde heuvel van Istanboel, tussen de oude fora van Constantijn en van Theodosius. Het lag ook in de buurt van het eerste paleis van de sultan, het Oude Paleis (Eski Saray), dat in diezelfde jaren ook in aanbouw was, en niet ver van de Artopoleia (in het Grieks) (Άρτοπωλεία), de bakkerswijk van de stad in de Byzantijnse tijd.
De bouw van de Bedesten eindigde in de winter van 1460/61, en het gebouw werd geschonken aan de waqf van de Hagia Sophia Moskee. Analyse van het metselwerk toont aan dat het grootste deel van de structuur uit de tweede helft van de 15e eeuw stamt, hoewel een Byzantijns reliëf dat een Comnenische adelaar voorstelt, nog steeds ingesloten op de top van de Oostpoort (Kuyumcular Kapısı)) van de Bedesten door verschillende geleerden is gebruikt als bewijs dat het bouwwerk een Byzantijns bouwwerk was.
Op een markt in de buurt van de Bedesten, in het Turks Esir Pazarı genoemd, was de slavenhandel actief, een gebruik dat ook uit Byzantijnse tijden is overgebleven. Andere belangrijke markten in de omgeving waren de tweede-hands markt (Turks: Bit Pazarı), de “Lange Markt” (Uzun Çarşı), overeenkomend met de Griekse Makros Embolos (Μακρός Ὲμβολος, “Lange Portiek”), een lange portiekachtige winkelgalerij die zich bergafwaarts uitstrekte van het Forum van Constantijn tot aan de Gouden Hoorn, die een van de belangrijkste marktgebieden van de stad was, terwijl de oude boekenmarkt (Sahaflar Çarşısı) pas na de aardbeving van 1894 in Istanbul werd verplaatst van de Bazaar naar de huidige schilderachtige locatie bij de Beyazid Moskee.
Enkele jaren later – volgens andere bronnen gebeurde dit in 1545 onder Sultan Suleiman I – liet Mehmed II nog een overdekte markt bouwen, de “Sandal Bedesten” (de naam komt van een soort garen dat in Bursa werd geweven en dat de kleur had van sandelhout), ook wel Küçük (“Kleine”), Cedit of Yeni (beide woorden betekenen “Nieuwe”) Bedesten genoemd, die ten noorden van de eerste lag.
Na de bouw van de Sandal Bedesten verplaatste de handel in textiel zich daarheen, terwijl de Cevahir Bedesten gereserveerd waren voor de handel in luxegoederen. In het begin stonden de twee gebouwen los van elkaar. Volgens de 16de-eeuwse Franse reiziger Pierre Gilles stonden tussen hen en de moskee van Beyazid de ruïnes van kerken en een grote cisterne. Spoedig echter openden vele verkopers hun winkels tussen en rondom hen, zodat een hele wijk ontstond, uitsluitend gewijd aan de handel.
Aan het begin van de 17e eeuw had de Grote Bazaar reeds zijn definitieve vorm bereikt. De enorme uitgestrektheid van het Ottomaanse Rijk in drie werelddelen, en de totale controle over de wegverbindingen tussen Azië en Europa, maakten de Bazaar en de omliggende hans of karavanserais tot het middelpunt van de mediterrane handel. Volgens verschillende Europese reizigers was de markt in die tijd, en tot in de eerste helft van de 19e eeuw, ongeëvenaard in Europa wat betreft de overvloed, de verscheidenheid en de kwaliteit van de goederen die er werden verkocht. Van Europese reizigers weten we dat de Grote Bazaar in die tijd een vierkante plattegrond had, met twee loodrecht op elkaar staande hoofdwegen die elkaar in het midden kruisten en een derde weg die langs de buitenrand liep. In de Bazaar waren 67 wegen (elk met de naam van de verkopers van een bepaald goed), verschillende pleinen voor het dagelijkse gebed, 5 moskeeën, 7 fonteinen, 18 poorten die elke dag ’s morgens werden geopend en ’s avonds gesloten (hiervan komt de moderne naam van de markt, “Gesloten Markt” (Kapalıçarşı). Rond 1638 gaf de Turkse reiziger Evliya Çelebi ons de belangrijkste historische beschrijving van de Bazaar en van zijn gebruiken. Het aantal winkels bedroeg 3.000, plus 300 in de omliggende hans, grote karavanserais met twee of drie verdiepingen rond een met portieken overdekte binnenplaats, waar goederen konden worden opgeslagen en kooplieden konden worden ondergebracht. In die periode was een tiende van de winkels van de stad geconcentreerd op de markt en daaromheen. Toch was de markt in die tijd nog niet overdekt.
De Grote Bazaar werd herhaaldelijk getroffen door calamiteiten, branden en aardbevingen. De eerste brand vond plaats in 1515; een andere in 1548. Andere branden teisterden het complex in 1588, 1618 (toen de Bit Pazarı werd verwoest), 1645, 1652, 1658, 1660 (bij die gelegenheid werd de hele stad verwoest), 1687, 1688 (grote schade ontstond aan de Uzun Çarşı) 1695, en 1701. De brand van 1701 was bijzonder hevig, zodat grootvizier Nevşehirli Damad Ibrahim Pasja in 1730-1731 verschillende delen van het complex moest herbouwen. In 1738 begiftigde de Kızlar Ağası Beşir Ağa de (nog steeds bestaande) fontein in de buurt van Mercan Kapı.
In deze periode, als gevolg van de nieuwe wet tegen brand uitgevaardigd in 1696, werden verschillende delen van de markt die tussen de twee Bedesten lagen, bedekt met gewelven. Desondanks werd het complex in 1750 en 1791 door andere branden geteisterd. De aardbeving van 1766 veroorzaakte nog meer schade, die een jaar later door de hoofdarchitect van het Hof (Hassa Baş Mimarı) Ahmet werd hersteld.
De 19e-eeuwse groei van de textielindustrie in West-Europa, de invoering van massaproductiemethoden, de capitulaties die tussen het Keizerrijk en vele Europese landen werden gesloten, en het – steeds door Europese kooplieden – tegenhouden van de grondstoffen die nodig waren voor de productie van goederen in de gesloten economie van het Keizerrijk, waren factoren die het verval van de Markt veroorzaakten. Tegen 1850 waren de huurprijzen in Bedesten tien keer lager dan twee tot drie decennia daarvoor. Bovendien dwongen het ontstaan van een op het Westen georiënteerde bourgeoisie en het commerciële succes van westerse producten de kooplieden die tot minderheden behoorden (Grieks, Armeens, Joods) ertoe de als verouderd beschouwde Bazaar te verlaten en nieuwe winkels te openen in wijken die door Europeanen werden bezocht, zoals Pera en Galata.
Volgens een onderzoek uit 1890 waren er in de Bazaar 4.399 actieve winkels, 2 bedesten, 2195 kamers, 1 hamam, een moskee, 10 medrese, 19 fonteinen (waaronder twee şadırvan en een sebil), een mausoleum en 24 han. In de 30,7 hectare van het complex, beschermd door 18 poorten, zijn er 3.000 winkels langs 61 straten, de 2 bedesten, 13 han (plus nog een aantal daarbuiten).
De laatste grote catastrofe vond plaats in 1894: een sterke aardbeving die Istanbul op zijn grondvesten deed schudden. De minister van Openbare Werken, Mahmud Celaleddin Pasha, hield toezicht op het herstel van de beschadigde Bazaar tot 1898, en bij deze gelegenheid werd het complex in oppervlakte teruggebracht. In het westen werd de Bit Pazarı buiten de nieuwe omtrek gelaten en werd een open weg, genaamd Çadırcılar Caddesi (“Tentenmakersweg”), terwijl de oude poort en de Kütkculer Kapi werden afgebroken. Van alle hans die tot de Markt behoorden, werden er vele buiten gelaten, en slechts negen bleven ingesloten in het bouwwerk.
In 1914 werd de Sandal Bedesten, waarvan de handelaren in textielgoederen door de Europese concurrentie geruïneerd waren, door de stad Istanbul aangekocht en vanaf een jaar later als veilinghuis gebruikt, voornamelijk voor tapijten. In 1927 kregen de afzonderlijke delen van de bazaar en de straten officiële namen. De laatste branden in de bazaar vonden plaats in 1943 en 1954, en de bijbehorende restauraties werden voltooid op 28 juli 1959.
De laatste restauratie van het complex vond plaats in 1980. Bij die gelegenheid werden ook de reclameaffiches rond de markt verwijderd.