Karl Landsteiner se narodil 14. června 1868 ve Vídni. Jeho otec Leopold Landsteiner, doktor práv, byl známý novinář a vydavatel novin, který zemřel, když bylo Karlovi šest let. Karla vychovávala matka Fanny Hessová, které byl tak oddaný, že mu až do smrti visela na zdi její posmrtná maska. Po ukončení školní docházky studoval Landsteiner medicínu na vídeňské univerzitě, kterou absolvoval v roce 1891. Již během studií se začal věnovat biochemickému výzkumu a v roce 1891 publikoval práci o vlivu stravy na složení krevního popela. Aby získal další chemické znalosti, strávil následujících pět let v laboratořích Hantzsche v Curychu, Emila Fischera ve Wurzburgu a E. Bambergera v Mnichově.
Po návratu do Vídně Landsteiner pokračoval ve studiu medicíny ve vídeňské všeobecné nemocnici. V roce 1896 se stal asistentem Maxe von Grubera v Hygienickém ústavu ve Vídni. Již v této době se zajímal o mechanismy imunity a o povahu protilátek. Od roku 1898 do roku 1908 zastával místo asistenta na univerzitní katedře patologické anatomie ve Vídni, jejímž vedoucím byl profesor A. Weichselbaum, který objevil bakteriální příčinu meningitidy a spolu s Fraenckelem objevil pneumokoka. Landsteiner zde pracoval spíše na morbidní fyziologii než na morbidní anatomii. V tom ho Weichselbaum podporoval, navzdory kritice ostatních členů tohoto ústavu. V roce 1908 mu Weichselbaum zajistil místo prosektora ve vídeňské Wilhelminaspital, kde zůstal až do roku 1919. V roce 1911 se stal profesorem patologické anatomie na vídeňské univerzitě, ale bez odpovídajícího platu.
Do roku 1919, po dvaceti letech práce na patologické anatomii, publikoval Landsteiner s řadou spolupracovníků mnoho prací o svých poznatcích z morbidní anatomie a z imunologie. Objevil nová fakta o imunologii syfilis, doplnil poznatky o Wassermannově reakci a objevil imunologické faktory, které nazval hapteny (tehdy vyšlo najevo, že účinné látky v extraktech z normálních orgánů používaných při této reakci jsou ve skutečnosti hapteny). Zásadním způsobem přispěl k poznání paroxysmální hemoglobinurie.
Ukázal také, že příčinu poliomyelitidy lze přenést na opice tím, že jim vstříkne materiál připravený rozmělněním míchy dětí, které na tuto nemoc zemřely, a protože mu ve Vídni chyběly opice pro další pokusy, odešel do Pasteurova ústavu v Paříži, kde byly opice k dispozici. Jeho tamní práce spolu s prací, kterou nezávisle na něm provedli Flexner a Lewis, položily základy našich znalostí o příčině a imunologii poliomyelitidy.
Landsteiner učinil řadu příspěvků jak k patologické anatomii, tak k histologii a imunologii, které svědčí nejen o jeho pečlivosti při pozorování a popisu, ale také o jeho biologickém porozumění. Jeho jméno však bude bezpochyby navždy ctěno za jeho objev a vynikající práci v oblasti krevních skupin v roce 1901, za kterou mu byla v roce 1930 udělena Nobelova cena za fyziologii nebo lékařství.
Již v roce 1875 Landois oznámil, že při transfuzi krve jiných zvířat člověku se tato cizí krevní tělíska shlukují a rozpadají v cévách člověka za uvolnění hemoglobinu. V letech 1901-1903 Landsteiner poukázal na to, že k podobné reakci může dojít, když je krev jednoho člověka transfundována nikoli krví jiného zvířete, ale krví jiného člověka, a že to může být příčinou šoku, žloutenky a hemoglobinurie, které následovaly po některých dřívějších pokusech o transfuzi krve.
Jeho návrhům však byla věnována jen malá pozornost, dokud v roce 1909 nerozdělil krev lidských bytostí do dnes dobře známých skupin A, B, AB a O a neprokázal, že transfuze mezi jedinci skupin A nebo B nevede ke zničení nových krevních buněk a že k této katastrofě dochází pouze tehdy, když je člověku transfundována krev osoby patřící do jiné skupiny. Již dříve, v letech 1901-1903, Landsteiner navrhl, že vzhledem k tomu, že vlastnosti, které určují krevní skupiny, jsou dědičné, lze krevní skupiny použít k rozhodování v případech pochybného otcovství. Velká část následné práce, kterou Landsteiner a jeho žáci vykonali v oblasti krevních skupin a jejich imunologického využití, nebyla vykonána ve Vídni, ale v New Yorku. V roce 1919 byly totiž ve Vídni takové podmínky, že laboratorní práce byla velmi obtížná, a protože Landsteiner neviděl pro Rakousko žádnou budoucnost, získal místo prosektora v malé římskokatolické nemocnici v Haagu. Zde v letech 1919-1922 publikoval dvanáct prací o nových haptenech, které objevil, o konjugátech s proteiny, které jsou schopny vyvolat anafylaxi, a o souvisejících problémech a také o sérologické specifičnosti hemoglobinů různých druhů zvířat. Jeho práce v Holandsku skončila, když mu bylo nabídnuto místo v Rockefellerově ústavu pro lékařský výzkum v New Yorku a on se tam i s rodinou přestěhoval. Zde ve spolupráci s Levinem a Wienerem provedl další práce na krevních skupinách, které značně rozšířily počet těchto skupin, a ve spolupráci s Wienerem zde studoval krvácení u novorozenců, což vedlo k objevu Rh-faktoru v krvi, který spojuje lidskou krev s krví opice rhesus.
Až do konce svého života Landsteiner pokračoval ve zkoumání krevních skupin a chemie antigenů, protilátek a dalších imunologických faktorů, které se vyskytují v krvi. Jednou z jeho velkých zásluh bylo, že zavedl chemii do služeb sérologie.
Landsteiner byl přísně náročný v požadavcích, které na sebe kladl, a měl neúnavnou energii. Po celý život neustále prováděl pozorování v mnoha jiných oborech, než ve kterých se věnoval své hlavní práci (zasloužil se například o zavedení osvětlení tmavého pole při studiu spirochet). Od přírody byl poněkud pesimistický a raději žil stranou od lidí.
Landsteiner se v roce 1916 oženil s Helen Wlasto. Z tohoto manželství má Dr. E. Landsteiner syna.
V roce 1939 se stal emeritním profesorem Rockefellerova institutu, ale nadále pracoval stejně energicky jako dříve a horlivě udržoval kontakt s pokrokem vědy. Je pro něj charakteristické, že zemřel s pipetou v ruce. Dne 24. června 1943 dostal ve své laboratoři infarkt a o dva dny později zemřel v nemocnici ústavu, v němž vykonal tak význačnou práci.