Mały Cezar to przezwisko przestępcy o imieniu Rico (Edward G. Robinson), który nie powstrzymuje się przed niczym w swoim dążeniu, by stać się dużym człowiekiem w kryminalnym świecie. Wstąpiwszy do bandy Sama Vettori (Stanley Fields), Rico sprząta szefa z drogi i zajmuje jego miejsce. Wkrótce bohater zakochuje się w dziewczynę swojego przyjaciela Joe Massara (Douglas Fairbanks Jr.) i rozkazuje mu ją rzucić..

Pracując pod przykrywką, aby ujawnić skorumpowanego sędziego, dziennikarz śledczy musi zmierzyć się ze swoją skrywaną przeszłością, jednocześnie próbując pogodzić się z chorobą psychiczną swojej matki i musi wybrać między uzależnieniem i obsesją a miłością i odkupieniem.