Тренировать боксеров Карл Карлович начал будучи учителем физкультуры в средней школе. Позднее он решил посвятить себя исключительно боксу и покинул школу, начав тренерскую карьеру. В середине 50-х Карл Леман тренировал молодых моряков в боксерском клубе Балтийских военно-морских сил, позднее руководил боксерским клубом "Динамо". С 1963 по 1971 год Карл Леман был самым авторитетным и уважаемым тренером, старшим тренером сборной Эстонии.

Будучи тренером, Леман вырастил своеобразную плеяду мастеров кожаной перчатки: под его руководством более 40 мастеров спорта завоевывали почетные награды на крупных соревнованиях по боксу.

Школа бокса Карла Лемана получила международное признание. Многие его ученики становились победителями на различных международных соревнованиях. Традиции замечательного тренера и учителя продолжают по сей день его ученики.