Karsh planeaba inicialmente convertirse en médico en su nueva patria, pero después de trabajar para su tío descubrió que le interesaba la fotografía. Regaló una de sus fotografías a un amigo que la presentó en secreto a un concurso. Ganó el primer premio. Reconociendo su talento, su tío envió a Karsh como aprendiz del fotógrafo de Boston John H. Garo, cuya clientela incluía a famosos músicos, artistas, periodistas y estadistas. Fue allí donde Karsh decidió fotografiar a «aquellos hombres y mujeres que dejan su huella en el mundo».
Karsh regresó a Canadá y abrió su propio estudio en 1931. Consiguió una reputación relativamente buena estableciendo una clientela impresionante y tuvo fotografías publicadas en periódicos de todo Canadá. Sin embargo, no fue hasta 1941 cuando Karsh tomó una fotografía que cambiaría su vida. Karsh fotografió a un Winston Churchill fruncido y desafiante. La imagen se convirtió en un símbolo del espíritu de Gran Bretaña y en uno de los retratos fotográficos más famosos del mundo. Karsh comenzó a fotografiar a personajes como Albert Einstein, el Papa Juan XXIII, la Reina Isabel, Pablo Picasso, Helen Keller, Ernest Hemmingway, Joan Miró, Anna Magnani, Elizabeth Taylor y miles más. Su obra forma parte de las colecciones permanentes del Salón Internacional de la Fama y el Museo de Fotografía, el Museo de Arte Moderno, el Museo Metropolitano de Arte de Nueva York, el Instituto de Arte de Chicago y muchos otros. El grueso de su obra, que incluye más de 260.000 negativos y transparencias, y 50.000 impresiones originales, se vendió en 1987 a los Archivos Nacionales de Canadá. Ha recibido más de dos docenas de títulos honoríficos. Karsh ha sido autor y tema de muchos libros, entre ellos Las caras del destino, (1946) En busca de la grandeza: Reflections of Yousuf Karsh (1962), Karsh Portfolio (1967), Karsh Portraits (1976) y Karsh: A Fifty-Year Retrospective (1983).