Joe Jackson 1908-ban kezdte profi baseballkarrierjét a Philadelphia Athletics szervezetnél. Az első két évben Jackson fel-alá ingázott a kisebb és a nagyobb ligák között, és mindössze tíz mérkőzést játszott az Athleticsnél. Mivel egyre elégedetlenebb lett, Jacksont 1911-ben elcserélték a Cleveland Naps-hoz, ahol első teljes szezonját játszotta. A clevelandi szervezetet végül 1915-ben Indiansnak nevezték el. Abban az évben Jackson .408-as ütésátlagot ért el, ami a mai napig rekord az újoncok között. Pályafutása fénykorát elérve Jackson .395-ös ütőszámot ért el, és 1912-ben vezette az Amerikai Liga triplák számát. A következő évben Jackson 197 találattal és .551-es slugging átlaggal vezette a ligát.
1915 augusztusában Jacksont elcserélték a Chicago White Soxhoz. Új környezetében is folytatódott óriási karrierje. 1917-ben Jackson és a White Sox elérte az egész baseball legnagyobb bravúrját, a World Series bajnoki címet. A sorozat során Jackson .307-et ütött, és győzelemre vezette a White Soxot a New York Giants ellen.
1919-ben Jackson és a White Sox ismét versenyben volt egy újabb világbajnoki gyűrűért. Jackson az alapszakaszban .351-es, a világbajnokságon pedig .375-ös ütőeredményt ért el tökéletes mezőnyjátékkal. Az erősen esélyes Sox vesztes csatában találta magát a Cincinnati Reds ellen. A következő évben, miközben .385-ös ütőeredményt ért el és vezette az amerikai ligát a triplák tekintetében, Jacksont felfüggesztették, miután azt állították, hogy a White Sox nyolc tagja dobta az előző világbajnokságot. 1921-ben egy chicagói esküdtszék felmentette Jacksont az 1919-es világbajnokság manipulálásában való közreműködés alól, de Kenesaw Mountain Landis, a baseball első biztosa ellenkezett az ítélettel, és mind a nyolc játékost, köztük Joe Jacksont is, életfogytiglanra eltiltotta a baseballtól.