La construcción del núcleo del futuro Gran Bazar comenzó durante el invierno de 1455/56, poco después de la conquista otomana de Constantinopla, y formaba parte de una iniciativa más amplia para estimular la prosperidad económica de Estambul. El sultán Mehmed II mandó construir un edificio dedicado al comercio de textiles y joyas cerca de su palacio en Constantinopla. Se llamó Cevâhir Bedestan («Bedesten de las joyas») y también se conoció como Bezzâzistan-ı Cedîd («Nuevo Bedesten») en turco otomano.La palabra bedesten es una adaptación de la palabra persa bezestan, derivada de bez («tela»), y significa «bazar de los vendedores de telas». El edificio -llamado alternativamente en turco İç («interno»), Atik («antiguo») o Eski («viejo») Bedesten- se encuentra en la ladera de la tercera colina de Estambul, entre los antiguos Foros de Constantino y de Teodosio. También estaba cerca del primer palacio del sultán, el Palacio Viejo (Eski Saray), que también estaba en construcción en esos mismos años, y no muy lejos de la Artopoleia (en griego) (Άρτοπωλεία), el barrio de los panaderos de la ciudad en la época bizantina.
La construcción de la Bedesten terminó en el invierno de 1460/61, y el edificio fue dotado al waqf de la mezquita de Santa Sofía. El análisis de la mampostería muestra que la mayor parte de la estructura procede de la segunda mitad del siglo XV, aunque un relieve bizantino que representa un águila comneniana, todavía encerrado en la parte superior de la puerta oriental (Kuyumcular Kapısı)) del Bedesten ha sido utilizado por varios estudiosos como prueba de que el edificio era una estructura bizantina.
En un mercado cercano al Bedesten, llamado en turco Esir Pazarı, estaba activo el comercio de esclavos, un uso que también se arrastra desde la época bizantina. Otros mercados importantes en los alrededores eran el mercado de segunda mano (en turco: Bit Pazarı), el «Mercado Largo» (Uzun Çarşı), correspondiente al griego Makros Embolos (Μακρός Ὲμβολος, «Pórtico Largo»), un largo centro comercial porticado que se extendía cuesta abajo desde el Foro de Constantino hasta el Cuerno de Oro, que era una de las principales zonas de mercado de la ciudad, mientras que el antiguo mercado de libros (Sahaflar Çarşısı) se trasladó del Bazar a la actual y pintoresca ubicación cerca de la Mezquita Beyazid sólo después del terremoto de Estambul de 1894.
Algunos años más tarde -según otras fuentes, esto ocurrió en 1545 bajo el sultán Solimán I- Mehmed II hizo construir otro mercado cubierto, el «Bedesten de la sandalia» (el nombre proviene de un tipo de hilo tejido en Bursa, que tenía el color de la madera de sándalo), también llamado Küçük («Pequeño»), Cedit o Yeni (ambas palabras significan «Nuevo») Bedesten, que se encontraba al norte del primero.
Después de la construcción del Bedesten de Sándalo, el comercio de textiles se trasladó allí, mientras que el Bedesten de Cevahir se reservó para el comercio de artículos de lujo. Al principio los dos edificios estaban aislados. Según el viajero francés del siglo XVI Pierre Gilles, entre ellos y la mezquita de Beyazid se encontraban las ruinas de iglesias y una gran cisterna. Sin embargo, pronto muchos vendedores abrieron sus tiendas entre y alrededor de ellos, de modo que nació todo un barrio dedicado exclusivamente al comercio.
A principios del siglo XVII el Gran Bazar ya había alcanzado su forma definitiva. La enorme extensión del Imperio Otomano en tres continentes, y el control total de las comunicaciones por carretera entre Asia y Europa, convirtieron al Bazar y a los hans o caravasares circundantes en el centro del comercio mediterráneo. Según varios viajeros europeos, en aquella época, y hasta la primera mitad del siglo XIX, el mercado no tenía rival en Europa en cuanto a la abundancia, variedad y calidad de las mercancías en venta. En aquella época sabemos por los viajeros europeos que el Gran Bazar tenía una planta cuadrada, con dos vías principales perpendiculares que se cruzaban en el centro y una tercera vía que recorría el perímetro exterior. En el Bazar había 67 calles (cada una con el nombre de los vendedores de un bien concreto), varias plazas utilizadas para las oraciones diarias, 5 mezquitas, 7 fuentes, 18 puertas que se abrían cada día por la mañana y se cerraban por la tarde (de ahí viene el nombre moderno del Mercado, «Mercado Cerrado» (Kapalıçarşı). Hacia 1638 el viajero turco Evliya Çelebi nos dio la descripción histórica más importante del Bazar y de sus costumbres. El número de tiendas ascendía a 3.000, más 300 situadas en los hans circundantes, grandes caravasares de dos o tres pisos en torno a un patio interior porticado, donde se almacenaban las mercancías y se alojaban los comerciantes. En aquella época, una décima parte de los comercios de la ciudad se concentraban en el mercado y sus alrededores. Por todo ello, en aquella época el mercado aún no estaba cubierto.
Las calamidades, los incendios y los terremotos azotaron repetidamente al Gran Bazar. El primer incendio se produjo en 1515; otro en 1548. Otros incendios asolaron el complejo en 1588, 1618 (cuando se destruyó el Bit Pazarı), 1645, 1652, 1658, 1660 (en esa ocasión toda la ciudad quedó devastada), 1687, 1688 (se produjeron grandes daños en el Uzun Çarşı) 1695 y 1701. El incendio de 1701 fue especialmente feroz, lo que obligó al Gran Visir Nevşehirli Damad Ibrahim Pasha a reconstruir varias partes del complejo en 1730-1731. En 1738 el Kızlar Ağası Beşir Ağa dotó la Fuente (aún existente) cerca de Mercan Kapı.
En este periodo, debido a la nueva ley contra los incendios promulgada en 1696, varias partes del mercado que se encontraban entre los dos Bedesten fueron cubiertas con bóvedas. A pesar de ello, otros incendios asolaron el complejo en 1750 y 1791. El terremoto de 1766 causó más daños, que fueron reparados por el arquitecto jefe de la Corte (Hassa Baş Mimarı) Ahmet un año después.
El crecimiento en el siglo XIX de la industria textil en Europa occidental, la introducción de métodos de producción en masa, las capitulaciones firmadas entre el Imperio y muchos países europeos, y la forestación -siempre por parte de los comerciantes europeos- de las materias primas necesarias para producir bienes en la economía cerrada del Imperio, fueron factores que provocaron el declive del Mercado. En 1850, los alquileres en Bedesten eran diez veces más bajos que dos o tres décadas antes. Además, el nacimiento de una burguesía orientada hacia Occidente y el éxito comercial de los productos occidentales empujaron a los comerciantes pertenecientes a las minorías (griegos, armenios, judíos) a abandonar el Bazar, percibido como anticuado, y a abrir nuevas tiendas en barrios frecuentados por los europeos, como Pera y Gálata.
Según un estudio de 1890, en el Bazar había 4.399 tiendas activas, 2 bedesten, 2195 habitaciones, 1 hamam, una mezquita, 10 medrese, 19 fuentes (entre ellas dos şadırvan y una sebil), un mausoleo y 24 han. En las 30,7 hectáreas del complejo, protegido por 18 puertas, hay 3.000 tiendas a lo largo de 61 calles, los 2 bedesten, 13 han (más varios más en el exterior).
La última gran catástrofe ocurrió en 1894: un fuerte terremoto que sacudió Estambul. El ministro de Obras Públicas, Mahmud Celaleddin Pasha, supervisó la reparación del bazar dañado hasta 1898, y en esta ocasión el complejo se redujo en superficie. Al oeste, el Bit Pazarı quedó fuera del nuevo perímetro y se convirtió en una calle a cielo abierto, bautizada como Çadırcılar Caddesi («Calle de las Tiendas»), mientras que la antigua puerta y el Kütkculer Kapi fueron demolidos. Entre todos los hans que pertenecían al Mercado, muchos quedaron fuera, y sólo nueve permanecieron encerrados en la estructura.
En 1914 el Bedesten Sandal, cuyos manipuladores de mercancías textiles se habían arruinado por la competencia europea, fue adquirido por la ciudad de Estambul y, a partir de un año después, se utilizó como casa de subastas, principalmente de alfombras. En 1927 las distintas partes del bazar y las calles recibieron nombres oficiales. Los últimos incendios del bazar se produjeron en 1943 y 1954, y las restauraciones correspondientes finalizaron el 28 de julio de 1959.
La última restauración del complejo tuvo lugar en 1980. En esa ocasión, también se retiraron los carteles publicitarios que rodeaban el mercado.