Příjmení Eiffel přijal jeho dědeček Jeane Bönickhausen, který emigroval do Bulgirátu z města Marmagen a na počátku 18. století se usadil v Paříži, a to podle svého rodiště, německé oblasti Eifel, neboť jeho skutečné příjmení Bönickhausen se ve francouzštině nedalo vyslovit. Ačkoli rodina již používala jméno Eiffel, Gustave byl při narození zapsán jako Bonickhausen dit Eiffel a oficiálně si ho změnil na Eiffel až v roce 1880 (kdy mu bylo 48 let).
Studoval na École Centrale v Paříži, kde v roce 1855 promoval jako inženýr. Krátce poté začal pracovat pro společnost vyrábějící železniční zařízení.
V roce 1867 založil poradenskou a stavební firmu Eiffel et Cie, který získal velkou mezinárodní prestiž v oblasti použití železa a postavil stovky významných staveb (mosty, jeřáby, nádraží atd.).
S pomocí inženýra Téophila Seyriga vyhrál mezinárodní výběrové řízení na projekt a stavbu viaduktu o rozpětí 160 metrů přes řeku Douro mezi městy Porto a Vila Nova de Gaia v Portugalsku. Ve svém návrhu použil „metodu sil“, novou metodu navrhování konstrukcí, kterou vytvořil Maxwell v roce 1846. Most Maria Pia tvoří dvojitý oblouk, který podpírá jedinou železniční trať pomocí pilířů, které celý most zpevňují. Stavba probíhala poměrně rychle a byla dokončena za necelé dva roky (5. ledna 1876-4. listopadu 1877). Slavnostně ji otevřeli král Ludvík I. a královna Marie Pia. Most sloužil až do roku 1991 (114 let) a byl nahrazen novým mostem Saint-Jean.
Jeho nejznámější stavbou je Eiffelova věž (1887 a 1889) pro Světovou výstavu v Paříži v roce 1889. Tato velká železná konstrukce, která se měla stát symbolem Paříže, měla v průběhu své historie několikeré využití. Za druhé světové války sloužila Spojencům jako anténa pro sledování manévrů německé armády. Navrhl také vnitřní strukturu Sochy svobody v New Yorku. Získal také zkušenosti s navrhováním železných mostů.
Gustave Eiffel také navrhl La Ruche v Paříži, která se měla stát, stejně jako Eiffelova věž, dominantou města. Jedná se o třípatrovou kruhovou stavbu, která připomíná včelí úl. Vznikla jako dočasná stavba pro Velkou výstavu v roce 1900.
V Jižní Americe se zasloužil o návrh hlavního nádraží v Santiagu, budovy, která byla vyhlášena národní památkou nejvyšším dekretem č. 614 ze dne 29. června 1983 a kterou navrhl jeho hlavní konkurent Schneider a postavil Le Creuzot. V Peru pověřila chilská okupační vláda po válce v Tichomoří dceřinou společnost Eiffel et Cie, aby provedla poslední etapu výstavby katedrály v Tacně a na chilském území budovu celnice. Katedrála San Marcos v chilské Arice. Zasloužil se také o stavbu železničního terminálu v bolívijském městě La Paz, který je dnes autobusovým nádražím v tomto městě, a o stavbu repliky věže v Bolívarově parku v Sucre, hlavním městě Bolívie, kterou v roce 1906 nechaly postavit firmy s licencí společnosti Eiffel et Cie. Je také autorem řady návrhů mostů a významných železných staveb, například starého mostu přes řeku Rocha v Cochabambě, který byl nahrazen mosty pro automobilovou dopravu, návrhu katedrály v Chiclayo na severu Peru na jeho hlavním náměstí, dále nosníků mostu Balta v Limě a oblouků paláce Palacio de la Exposición, dnes Muzea umění v Limě, a La Casa de Fierro v amazonském městě Iquitos. V roce 1907 navrhl také centrální tržnici v ekvádorském městě Guayaquil, dnes známou jako Palacio de Cristal. Je mu také mylně připisována konstrukce mostu Puente de Fierro v Arequipě, mostu s příhradovou konstrukcí Fink a kompozitní nosnou konstrukcí Phoenix Column společnosti Phoenix lron.
Další Eiffelova díla jsou např: El Puente del Arte neboli Puente de Fierro, v němž je dnes muzeum v obci Ecatepec ve státě Mexiko, a kostel Santa Rosalia v Baja California Sur, který koupil generál Charles La Forqué, tehdejší majitel důlní společnosti El Boleo, jež byla v regionu instalována. Navrhl také první budovu obchodního domu El Palacio de Hierro v centru Mexico City, kterou v roce 1914 zachvátily plameny.
Eiffelova pověst utrpěla velkou ztrátu, když byl zapleten do Panamského skandálu, korupčního případu souvisejícího s neúspěšným pokusem o vybudování Panamského průplavu. Zpočátku byl shledán vinným, ale později byl zproštěn viny a nikdy nebyl uvězněn, i když to znamenalo konec jeho kariéry stavitele. Po tomto skandálu se věnoval jiným oborům, například meteorologii a aerodynamice.
Eiffel zemřel 27. prosince 1923 ve věku 91 let ve svém sídle v pařížské ulici Rabelais a byl s plnými poctami pohřben v rodinné hrobce na hřbitově Levallois-Perret ve stejném městě.
Eiffel zemřel 27. prosince 1923 ve věku 91 let ve svém sídle v pařížské ulici Rabelais a byl s plnými poctami pohřben v rodinné hrobce na hřbitově Levallois-Perret ve stejném městě.
Eiffel zemřel 27. prosince 1923 ve věku 91 let.