Karel Berman se narodil v roce 1919 v jižních Čechách. V Praze začal studovat zpěv u E. Fuchse na Pražské konzervatoři. Dne 5. března 1943 byl deportován z nádraží Praha-Holešovice do Terezína. Transport měl označení CV, Berman měl číslo 1002.
V Terezíně pracoval Berman v četě pro odvoz odpadků. Brzy se seznámil s Raphaelem Schächterem, s nímž ho rychle začalo pojit hluboké přátelství. Během svého pobytu v ghettu patřil Berman k nejaktivnějším a nejvšestrannějším umělcům hudebního života v Terezíně. Ztvárnil roli Kecala ve Smetanově Prodané nevěstě, zpíval Sarastra (Mozartova Kouzelná flétna), pořádal nesčetné recitály písní a árií, doprovázel své kolegy na klavír, režíroval Pergolesiho Laserva Padrona, vedl dívčí sbor a komponoval. V Ullmannově opeře Císař Atlantidy zpíval Smrt – jeho poslední úkol v Terezíně. Berman byl pravděpodobně sólistou, který se zúčastnil všech představení Verdiho Requiem.
28. září 1944 byl Berman spolu s mnoha dalšími umělci deportován do Osvětimi. Berman přežil selekci v Březince a byl jako nuceně nasazený pracovník převezen do Kauferingu, kde zažil osvobození. Vrátil se do Prahy, stal se profesorem hlasové výchovy na konzervatoři a na hudební akademii, působil jako sólista a operní režisér v Plzni a poté byl angažován v Národním divadle v Praze, kde po dobu 40 let ztvárňoval všechny důležité role operní literatury ve svém oboru. Ovládal 120 operních rolí. Díky svým vysokým pěveckým, hudebním a hereckým schopnostem Karel Berman rozhodujícím způsobem ovlivnil historii Národního divadla na zahraničních turné. Mezi jeho nejslavnější interpretace patří role Leporella v Mozartově Donu Giovannim, kterou pod režijním vedením Waltera Felsensteina ztvárnil také v roce 1966 jako host Komické opery v Berlíně. V roce 1994 ocenil August Everding jeho celoživotní dílo cenou mezinárodní organizace AIDO. Ve Vídni mu byla za přítomnosti rakouského spolkového kancléře udělena medaile Fidelio.
Karel Berman zemřel 11. srpna 1995. Tři měsíce předtím vystoupil na pamětním festivalu v Terezíně, kde ještě jednou zazpíval Čtyři písně podle čínské poezie, které pro něj Pavel Haas napsal v letech 1943–1944.