Shemp matriculou-se na Baron DeHirsch Trade School juntamente com Moe, onde pretendia estudar para ser encanador, Moe fez apenas 2 meses do curso de eletrecista, mais para satisfazer ao seu pai. Mas assim como Moe, Shemp tinha sonhos de se tornar um grande artista. Trabalharam juntos em vários espetáculos de Vaudeville até 1922 quando se juntaram a Ted Healy que precisava de novos atores para substituir seu elenco.
Em 1925 Shemp casou-se com Gertrude "Babe"Frank, ela lhe dá um filho, Morton em 1927; neste mesmo ano Larry se junta à trupe de Ted Healy, pouco tempo depois os três co-estrelaram com Ted "Soup Nuts". Mais adiante, Ted abandona a revista musical J.J. Schubert Broadway, levando consigo Moe e Larry. Shemp continua sozinho com o show, e em 1932 torna-se astro de comédias para a Vitaphone. Estrelou ainda em filmes na RKO Pictures, MGM e Monogram. Nos anos 40 fez vários papéis em comédias da Universal, "Buck Privates", "The Bank Dick" e "Hellzapoppin !". Depois de Curly ter que deixar a cena por causa de sua doença, Shemp tornou-se um um dos Três Patetas, e não fez apenas 77 dos episódios dos Patetas, mas também estrelou um filme "Gold Riders" em 1951.
No dia 23 de novembro de 1955, Shemp foi com alguns amigos ao Hollywood Legion Stadium, assistir às lutas de boxe, ao término, Shemp toma um taxi em direção à sua casa na ala norte de Hollywood, com seu amigo Al Winston, no banco traseiro Shemp acende seu charuto, e, derepente tomba no colo de Al, Shemp acabava de ter um fulminante ataque cardíaco falecendo aos 60 anos.
