Con la conversione della vecchia biblioteca centrale di Chicago nel Chicago Cultural Center nel 1977, una biblioteca centrale temporanea a lungo termine fu aperta nel Mandel Building al 425 North Michigan Avenue e gran parte della collezione della biblioteca fu messa in deposito. Ne seguì un dibattito su una nuova biblioteca centrale che continuò per la maggior parte degli anni ’80, frustrato dalla mancanza di fondi. Alla sua elezione nel 1983, il sindaco Harold Washington sostenne la costruzione di una nuova biblioteca centrale. Dopo l’agitazione di quattro amministrazioni comunali in un periodo di sette anni, finalmente, nel 1986 durante il mandato di Washington, la città e il Consiglio della Biblioteca scelsero una posizione e lanciarono un’emissione di obbligazioni da 175 milioni di dollari per fornire fondi per il nuovo edificio, così come l’intero sistema di filiali della biblioteca cittadina. Nel 1987, la città ha indetto un concorso di progettazione per decidere l’architettura della biblioteca. Cinque proposte di spicco furono scelte da coalizioni di architetti e appaltatori che rappresentavano i progetti di VOA Associates in collaborazione con Arthur Erickson; Hammond, Beeby & Babka; Murphy/Jahn, Lohan Associates, e SOM. Le candidature sono state ridotte a due finalisti: Il Chicago Library Team con il design moderno e vetrato di Helmut Jahn, e la coalizione SEBUS, il cui progetto postmoderno di Hammond, Beeby e Babka ha preso elementi dagli edifici storici vicini. In particolare, il progetto di Jahn avrebbe dovuto inarcarsi su Van Buren Street nell’area che ora è occupata da Pritzker Park, incorporando una nuova stazione sopraelevata nel Loop di Chicago. Questi elementi furono considerati troppo costosi, insieme al resto del progetto di Jahn, così il progetto di Hammond, Beeby e Babka vinse il concorso. I modelli architettonici creati dalle squadre partecipanti si trovano all’ottavo piano dell’Harold Washington Library Center, eccetto la voce SEBUS, che si trova al nono piano delle Collezioni Speciali.
Con il supporto di Harold Washington e della ricca famiglia Pritzker di Chicago, fu aperta la terra nel sito scelto tra Congress Parkway e State Street, coprendo un intero isolato. Al completamento dell’edificio nel 1991, il nuovo sindaco, Richard M. Daley, nominò l’edificio in onore dell’ormai scomparso ex sindaco Harold Washington, un sostenitore della lettura e dell’educazione tra gli abitanti di Chicago, nonché un sostenitore della costruzione della biblioteca. Prima del 1872, Chicago aveva principalmente biblioteche private. L’Inghilterra rispose al Grande Incendio di Chicago del 1871 donando oltre 8.000 libri alla città, che diventarono la base della prima biblioteca pubblica. Questa collezione fu ospitata in una varietà di luoghi, fino alla costruzione della Biblioteca Centrale nel 1891. La Harold Washington Library fu inaugurata il 7 ottobre 1991. Dal suo completamento, la biblioteca è apparsa nel Guinness dei primati come il più grande edificio di biblioteca pubblica del mondo. Nel 2013 l’architetto e presidente di Hammond, Beeby e Babka, Thomas H. Beeby, ha vinto il prestigioso Driehaus Architecture Prize per questo e altri progetti.