A construção do futuro núcleo do Grand Bazar começou durante o inverno de 1455/56, logo após a conquista otomana de Constantinopla e fez parte de uma iniciativa mais ampla para estimular a prosperidade econômica em Istambul. O Sultão Mehmed II mandou erguer um edifício dedicado ao comércio de têxteis e jóias perto do seu palácio em Constantinopla. Foi nomeado Cevâhir Bedestan (“Bedesten of Gems”) e era também conhecido como Bezzâzistan-ı Cedîd (“New Bedesten”) em turco otomano. A palavra bedesten é adaptada da palavra persa bezestan, derivada de bez (“pano”), e significa “bazar dos vendedores de pano”. O edifício – nomeado alternadamente em turco İç (“Interno”), Atik (“Antigo”), ou Eski (“Velho”) Bedesten – fica na encosta da terceira colina de Istambul, entre os antigos Fóruns de Constantino e de Teodósio. Estava também perto do primeiro palácio do sultão, o Palácio Velho (Eski Saray), que também estava em construção nesses mesmos anos, e não muito longe da Artopoleia (em grego) (Άρτοπωλεία), o bairro dos padeiros da cidade na época bizantina.
A construção do Bedesten terminou no inverno de 1460/61, e o edifício foi dotado com o waqf da Mesquita Hagia Sophia. A análise da alvenaria mostra que a maior parte da estrutura tem origem na segunda metade do século XV, embora um relevo bizantino representando uma águia comneniana, ainda encerrada no topo da Porta Leste (Kuyumcular Kapısı) do Bedesten tem sido usada por vários estudiosos como prova de que o edifício era uma estrutura bizantina.
Num mercado perto do Bedesten, denominado no Esir turco Pazarı, o comércio de escravos era ativo, um uso também transportado da época bizantina. Outros mercados importantes nas proximidades eram o mercado de segunda mão (Turco: Bit Pazarı), o “Mercado Longo” (Uzun Çarşı), correspondente aos Embolos Makros gregos (Μακρός Ὲμβολος, “Pórtico Longo”), um longo pórtico que se estendia a descer da colina do Fórum de Constantino até ao Corno de Ouro, que era uma das principais áreas de mercado da cidade, enquanto que o antigo mercado de livros (Sahaflar Çarşısı) foi transferido do Bazar para o atual pitoresco local próximo à Mesquita do Beyazid somente após o terremoto de Istambul de 1894.
Alguns anos depois – segundo outras fontes, isto ocorreu em 1545 sob o Sultão Suleiman I-Mehmed II mandou construir outro mercado coberto, o “Sandal Bedesten” (o nome vem de uma espécie de fio tecido em Bursa, que tinha a cor do sândalo), também chamado Küçük (“Little”), Cedit ou Yeni (ambas palavras que significam “Novo”) Bedesten, que ficava ao norte do primeiro.
Após a ereção do Sandal Bedesten, o comércio de têxteis mudou-se para lá, enquanto o Cevahir Bedesten foi reservado para o comércio de artigos de luxo. No início, os dois edifícios estavam isolados. Segundo o viajante francês do século XVI Pierre Gilles, entre eles e a Mesquita do Beyazid estavam as ruínas de igrejas e uma grande cisterna. No entanto, logo muitos vendedores abriram suas lojas entre eles e ao redor deles, de modo que nasceu um bairro inteiro, dedicado exclusivamente ao comércio.
No início do século XVII, o Grande Bazar já havia alcançado sua forma final. A enorme extensão do Império Otomano em três continentes, e o controle total das comunicações rodoviárias entre a Ásia e a Europa, tornaram o Bazar e os furgões ou caravanserais circundantes o centro do comércio mediterrâneo. Segundo vários viajantes europeus, nessa época, e até a primeira metade do século XIX, o mercado era incomparável na Europa no que diz respeito à abundância, variedade e qualidade das mercadorias à venda. Naquela época sabemos pelos viajantes europeus que o Grande Bazar tinha um plano quadrado, com duas estradas principais perpendiculares a atravessar no meio e uma terceira estrada a percorrer o perímetro exterior. No Bazar havia 67 estradas (cada uma com o nome dos vendedores de um determinado bem), várias praças utilizadas para as orações diárias, 5 mesquitas, 7 fontes, 18 portões que eram abertos todos os dias pela manhã e fechados à noite (destes vem o moderno nome do Mercado, “Mercado Fechado” (Kapalıçarşı). Por volta de 1638 o viajante turco Evliya Çelebi deu-nos a descrição histórica mais importante do Bazar e dos seus costumes. O número de lojas era de 3.000, mais 300 localizadas nos furgões circundantes, grandes caravanserais com dois ou três andares em volta de um pátio interior porticado, onde se podia armazenar mercadorias e alojar os comerciantes. Naquele período, um décimo das lojas da cidade estava concentrado no mercado e em torno dele. Por tudo isso, naquela época, o mercado ainda não estava coberto.
Calamidades recorrentes, incêndios e terramotos atingiram o Grande Bazar. O primeiro incêndio ocorreu em 1515; outro em 1548. Outros incêndios devastaram o complexo em 1588, 1618 (quando o Bit Pazarı foi destruído), 1645, 1652, 1658, 1660 (naquela ocasião toda a cidade foi devastada), 1687, 1688 (grandes danos ocorreram ao Uzun Çarşı) 1695, e 1701. O incêndio de 1701 foi particularmente violento, forçando Grand Vizier Nevşehirli Damad Ibrahim Pasha a reconstruir várias partes do complexo em 1730-1731. Em 1738 o Kızlar Ağası Beşir Ağa dotou a Fonte (ainda existente) perto de Mercan Kapı.
Neste período, devido à nova lei contra incêndios emitida em 1696, várias partes do mercado que se encontravam entre os dois Bedesten foram cobertas com abóbadas. Apesar disso, outros incêndios assolaram o complexo em 1750 e 1791. O tremor de 1766 causou mais danos, que foram reparados pelo Arquitecto Chefe do Tribunal (Hassa Baş Mimarı) Ahmet um ano depois.
O crescimento da indústria têxtil na Europa Ocidental no século XIX, a introdução de métodos de produção em massa, as capitulações assinadas entre o Império e muitos países europeus, e a silvicultura – sempre por comerciantes europeus – das matérias-primas necessárias para produzir bens na economia fechada do Império, foram factores que causaram o declínio do Mercado. Em 1850, as rendas em Bedesten eram dez vezes mais baixas do que duas a três décadas antes. Além disso, o nascimento de uma burguesia orientada para o Ocidente e o sucesso comercial dos produtos ocidentais levaram os comerciantes pertencentes às minorias (gregos, arménios, judeus) a sair do Bazar, percebido como antiquado, e a abrir novas lojas nos bairros frequentados pelos europeus, como Pera e Galata.
De acordo com uma pesquisa de 1890, no Bazar havia 4.399 lojas activas, 2 quartos, 2195 quartos, 1 hamam, uma mesquita, 10 medrese, 19 fontes (entre elas duas şadırvan e uma sebil), um mausoléu e 24 han. Nos 30,7 hectares do complexo, protegidos por 18 portões, há 3.000 lojas ao longo de 61 ruas, os 2 bedesten, 13 han (mais vários fora).
A última grande catástrofe aconteceu em 1894: um forte terremoto que abalou Istambul. O Ministro de Obras Públicas, Mahmud Celaleddin Pasha, supervisionou a reparação do Bazar danificado até 1898, e nesta ocasião o complexo foi reduzido na área. A oeste, o Bit Pazarı foi deixado fora do novo perímetro e tornou-se uma estrada de céu aberto, chamada Çadırcılar Caddesi (“Tentmaker Road”), enquanto o antigo portão e o Kütkculer Kapi foram demolidos. Entre todas as carrinhas que pertenciam ao Mercado, muitas foram deixadas no exterior, e apenas nove ficaram fechadas na estrutura.
Em 1914 a Sandal Bedesten, cujos manipuladores de artigos têxteis tinham sido arruinados pela concorrência europeia, foi adquirida pela cidade de Istambul e, a partir de um ano depois, foi utilizada como casa de leilões, principalmente para tapetes. Em 1927, as partes individuais do bazar e das ruas receberam nomes oficiais. Os últimos incêndios do bazar aconteceram em 1943 e 1954, e as restaurações relacionadas foram concluídas em 28 de Julho de 1959.
A última restauração do complexo teve lugar em 1980. Nessa ocasião, também foram retirados cartazes publicitários em torno do mercado.