Karsh původně plánoval, že se ve své nové vlasti stane lékařem, ale po práci pro svého strýce zjistil, že ho zajímá fotografie. Jednu ze svých fotografií daroval příteli, který ji tajně přihlásil do soutěže. Získala první cenu. Strýc rozpoznal jeho talent a poslal Karshe do učení k bostonskému fotografovi Johnu H. Garovi, mezi jehož klienty patřili slavní hudebníci, umělci, novináři a státníci. Tam se Karsh rozhodl, že bude fotografovat „ty muže a ženy, kteří zanechávají stopu ve světě“.
Karsh se vrátil do Kanady a v roce 1931 si otevřel vlastní ateliér. Získal poměrně dobrou pověst, vytvořil si působivou klientelu a jeho fotografie byly publikovány v novinách po celé Kanadě. Teprve v roce 1941 však Karsh pořídil fotografii, která změnila jeho život. Karsh vyfotografoval zamračeného a vzdorovitého Winstona Churchilla. Snímek se stal symbolem ducha Británie a jedním z nejslavnějších fotografických portrétů na světě. Karsh začal fotografovat například Alberta Einsteina, papeže Jana XXIII, královnu Alžbětu, Pabla Picassa, Helen Kellerovou, Ernesta Hemmingwaye, Joan Miro, Annu Magnani, Elizabeth Taylorovou a tisíce dalších. Jeho díla jsou ve stálých sbírkách Mezinárodní síně slávy a muzea fotografie, Muzea moderního umění, Metropolitního muzea umění v New Yorku, Institutu umění v Chicagu a mnoha dalších. Většina jeho díla, včetně více než 260 000 negativů a diapozitivů a 50 000 originálních tisků, byla v roce 1987 prodána kanadskému Národnímu archivu. Byl držitelem více než dvou desítek čestných titulů. Karsh byl autorem a námětem mnoha knih, mimo jiné Tváře osudu (1946), Hledání velikosti: Karsh: Reflections of Yousuf Karsh (1962), Karsh Portfolio (1967), Karsh Portraits (1976) a Karsh:
Karf: Padesátiletá retrospektiva (1983).