Bygget av den framtida Grand Bazaarens kärna påbörjades under vintern 1455/56, strax efter den ottomanska erövringen av Konstantinopel, och var en del av ett bredare initiativ för att stimulera det ekonomiska välståndet i Istanbul. Sultan Mehmed II lät uppföra en byggnad för handel med textilier och juveler i närheten av sitt palats i Konstantinopel. Den fick namnet Cevâhir Bedestan (”ädelstensbädden”) och var även känd som Bezzâzistan-ı Cedîd (”Nya Bedesten”) på ottomansk turkiska.Ordet bedesten är anpassat från det persiska ordet bezestan, som härstammar från bez (”tyg”), och betyder ”tygförsäljarnas basar”. Byggnaden – som på turkiska kallas växelvis İç (”inre”), Atik (”gammal”) eller Eski (”gammal”) Bedesten – ligger på sluttningen av Istanbuls tredje kulle, mellan Konstantins och Theodosius antika fora. Det låg också nära den första sultanens palats, det gamla palatset (Eski Saray), som också höll på att byggas under samma år, och inte långt från Artopoleia (på grekiska) (Άρτοπωλεία), stadens bagerikvarter under bysantinsk tid.
Byggnationen av Bedesten avslutades vintern 1460/61, och byggnaden gick i gåva till waqf för Hagia Sophia-moskén. En analys av murverket visar att det mesta av konstruktionen härrör från andra hälften av 1400-talet, även om en bysantinsk relief som föreställer en komnisk örn, fortfarande innesluten på toppen av den östra porten (Kuyumcular Kapısı)) i Bedesten har använts av flera forskare som bevis för att byggnaden var en bysantinsk konstruktion.
På en marknad i närheten av Bedesten, som på turkiska heter Esir Pazarı, var slavhandeln aktiv, ett användningsområde som även det fördes över från den bysantinska tiden. Andra viktiga marknader i närheten var second hand-marknaden (turkisk: Bit Pazarı), den ”långa marknaden” (Uzun Çarşı), som motsvarar det grekiska Makros Embolos (Μακρός Ὲμβολος, ”Lång portik”), en lång galleria med portik som sträckte sig nedåt från Konstantins forum till Gyllene hornet, som var ett av stadens viktigaste marknadsområden, medan den gamla bokmarknaden (Sahaflar Çarşısı) flyttades från basaren till den nuvarande pittoreska platsen nära Beyazid-moskén först efter jordbävningen i Istanbul 1894.
Några år senare – enligt andra källor skedde detta 1545 under sultan Suleiman I-Mehmed II lät bygga ytterligare en täckt marknad, ”Sandal Bedesten” (namnet kommer från en sorts tråd som vävdes i Bursa och som hade färgen av sandelträ), även kallad Küçük (”liten”), Cedit eller Yeni (båda ord som betyder ”ny”) Bedesten, som låg norr om den första.
Efter uppförandet av Sandal Bedesten flyttade handeln med textilier dit, medan Cevahir Bedesten var reserverad för handeln med lyxvaror. I början var de två byggnaderna isolerade. Enligt den franske resenären Pierre Gilles från 1500-talet stod mellan dem och Beyazidmoskén ruinerna av kyrkor och en stor cistern. Snart öppnade dock många försäljare sina butiker mellan och runt omkring dem, så att ett helt kvarter föddes som enbart ägnades åt handel.
I början av 1600-talet hade Grand Bazaar redan fått sin slutgiltiga form. Det ottomanska rikets enorma utbredning på tre kontinenter och den totala kontrollen över vägförbindelserna mellan Asien och Europa gjorde basaren och de omgivande hans eller caravanserais till navet för handeln i Medelhavet. Enligt flera europeiska resenärer var marknaden vid den tiden, och fram till första hälften av 1800-talet, oöverträffad i Europa när det gäller överflödet, variationen och kvaliteten på de varor som salufördes. På den tiden vet vi från europeiska resenärer att Grand Bazaar hade en kvadratisk plan, med två vinkelräta huvudvägar som korsade varandra i mitten och en tredje väg som löpte längs den yttre omkretsen. I basaren fanns 67 vägar (var och en med namnet på säljarna av en viss vara), flera torg som användes för de dagliga bönerna, 5 moskéer, 7 fontäner, 18 portar som öppnades varje dag på morgonen och stängdes på kvällen (från dessa kommer marknadens moderna namn, ”sluten marknad” (Kapalıçarşı). Omkring 1638 gav den turkiske resenären Evliya Çelebi oss den viktigaste historiska beskrivningen av basaren och dess sedvänjor. Antalet butiker uppgick till 3 000, plus 300 som låg i de omgivande hans, stora husvagnsbyggnader med två eller tre våningar runt en innergård med portiker, där varor kunde förvaras och köpmän kunde bo. Under denna period var en tiondel av stadens butiker koncentrerade till marknaden och dess omgivningar. Trots detta var marknaden ännu inte täckt på den tiden.
Reklamationsmässigt återkommande katastrofer, bränder och jordbävningar drabbade den stora basaren. Den första branden inträffade 1515 och en annan 1548. Andra bränder härjade komplexet 1588, 1618 (då Bit Pazarı förstördes), 1645, 1652, 1658, 1660 (vid det tillfället ödelades hela staden), 1687, 1688 (stora skador uppstod på Uzun Çarşı) 1695 och 1701. Branden 1701 var särskilt våldsam och tvingade storvisir Nevşehirli Damad Ibrahim Pasha att återuppbygga flera delar av komplexet 1730-1731. År 1738 donerade Kızlar Ağası Beşir Ağa fontänen (som fortfarande finns kvar) nära Mercan Kapı.
Under denna period, på grund av den nya lagen mot bränder som utfärdades 1696, täcktes flera delar av marknaden som låg mellan de två Bedesten med valv. Trots detta härjade andra bränder i komplexet 1750 och 1791. Skalvet 1766 orsakade ytterligare skador, som reparerades av hovets chefsarkitekt (Hassa Baş Mimarı) Ahmet ett år senare.
Textilindustrins tillväxt på 1800-talet i Västeuropa, införandet av massproduktionsmetoder, de kapitulationer som undertecknades mellan kejsardömet och många europeiska länder och det faktum att de europeiska köpmännen alltid hindrade tillgången till de råvaror som krävdes för att tillverka varor i kejsardömets slutna ekonomi, var faktorer som orsakade marknadens nedgång. År 1850 var hyrorna i Bedesten tio gånger lägre än två till tre decennier tidigare. Dessutom tvingade framväxten av en västorienterad borgarklass och den kommersiella framgången för västerländska produkter köpmän som tillhörde minoriteterna (grekiska, armeniska, judiska) att flytta ut från basaren, som uppfattades som föråldrad, och att öppna nya affärer i kvarter som besöks av européer, till exempel Pera och Galata.
Enligt en undersökning från 1890 fanns det i basaren 4 399 aktiva butiker, 2 bedesten, 2 195 rum, 1 hamam, 1 moské, 10 medrese, 19 fontäner (bland dem två şadırvan och en sebil), 1 mausoleum och 24 han. I det 30,7 hektar stora komplexet, som skyddas av 18 portar, finns 3 000 butiker längs 61 gator, de 2 bedesten, 13 han (plus flera fler utanför).
Den senaste stora katastrofen inträffade 1894: en kraftig jordbävning som skakade Istanbul. Ministern för offentliga arbeten, Mahmud Celaleddin Pasha, övervakade reparationen av den skadade basaren fram till 1898, och vid detta tillfälle minskades komplexet i yta. I väster lämnades Bit Pazarı utanför den nya perimetern och blev en väg med öppen himmel som fick namnet Çadırcılar Caddesi (”Tentmaker Road”), medan den gamla porten och Kütkculer Kapi revs. Av alla hansar som hörde till marknaden lämnades många utanför, och endast nio förblev inneslutna i strukturen.
År 1914 förvärvades Sandal Bedesten, vars hanterare av textilvaror hade ruinerats av den europeiska konkurrensen, av staden Istanbul och från och med ett år senare användes den som auktionshus, främst för mattor. År 1927 fick de enskilda delarna av basaren och gatorna officiella namn. De sista bränderna i basaren inträffade 1943 och 1954, och de relaterade restaureringarna avslutades den 28 juli 1959.
Den sista restaureringen av komplexet ägde rum 1980. Vid det tillfället togs även reklamaffischerna runt marknaden bort.