Karl Landsteiner 1868. június 14-én született Bécsben. Apja, Leopold Landsteiner, a jogtudományok doktora, ismert újságíró és lapkiadó volt, aki meghalt, amikor Karl hatéves volt. Karlt édesanyja, Fanny Hess nevelte fel, akihez annyira ragaszkodott, hogy haláláig a falán lógott egy róla készült halotti maszk. Az iskola elvégzése után Landsteiner a bécsi egyetemen orvostudományt tanult, és 1891-ben diplomázott. Már diákkorában elkezdett biokémiai kutatásokat végezni, és 1891-ben publikált egy tanulmányt az étrendnek a vérhamu összetételére gyakorolt hatásáról. Hogy további kémiai ismereteket szerezzen, a következő öt évet Zürichben Hantzsch, Wurzburgban Emil Fischer és Münchenben E. Bamberger laboratóriumaiban töltötte.
Visszatérve Bécsbe, Landsteiner a Bécsi Általános Kórházban folytatta orvosi tanulmányait. 1896-ban asszisztens lett Max von Gruber mellett a bécsi Higiéniai Intézetben. Már ekkor érdeklődött az immunitás mechanizmusai és az antitestek természete iránt. 1898-tól 1908-ig asszisztensi állást töltött be a bécsi egyetemi patológiai anatómiai tanszéken, amelynek vezetője A. Weichselbaum professzor volt, aki felfedezte az agyhártyagyulladás bakteriális okát, és Fraenckel együtt felfedezte a pneumococcust. Landsteiner itt inkább a kóros fiziológiával, mint a kóros anatómiával foglalkozott. Ebben Weichselbaum bátorította őt, az intézetben mások kritikája ellenére. 1908-ban Weichselbaum biztosította számára a bécsi Wilhelminaspital prókátori kinevezését, ahol 1919-ig maradt. 1911-ben a bécsi egyetem patológiai anatómia professzora lett, de a megfelelő fizetés nélkül.
1919-ig, húsz évnyi patológiai anatómiai munka után Landsteiner számos munkatársával együtt számos tanulmányt publikált a kóros anatómia és az immunológia terén elért eredményeiről. Új tényeket fedezett fel a szifilisz immunológiájával kapcsolatban, bővítette a Wassermann-reakcióval kapcsolatos ismereteket, és felfedezte azokat az immunológiai tényezőket, amelyeket hapteneknek nevezett el (ekkor vált világossá, hogy a reakcióban használt normál szervek kivonataiban lévő hatóanyagok valójában haptenek). Alapvetően hozzájárult a paroxizmális hemoglobinuriával kapcsolatos ismereteinkhez.
Azt is kimutatta, hogy a gyermekbénulás oka majmokra is átvihető azáltal, hogy e betegségben elhunyt gyermekek gerincvelőjének felaprításával készített anyagot fecskendezett beléjük, és mivel a további kísérletekhez nem voltak bécsi majmok, a párizsi Pasteur Intézetbe ment, ahol majmok álltak rendelkezésére. Az ott végzett munkája, Flexner és Lewis egymástól függetlenül végzett munkájával együtt, lefektette a gyermekbénulás okáról és immunológiájáról szerzett ismereteink alapjait.
Landsteiner számos hozzájárulást tett mind a patológiai anatómia, mind a szövettan, mind az immunológia területén, amelyek mindegyike nemcsak a megfigyelés és leírás aprólékos gondosságáról, hanem biológiai megértéséről is tanúskodott. Nevét azonban kétségkívül mindig tisztelni fogják a vércsoportok 1901-es felfedezéséért és a vércsoportokkal kapcsolatos kiemelkedő munkásságáért, amelyért 1930-ban megkapta az élettani vagy orvosi Nobel-díjat.
1875-ben Landois már beszámolt arról, hogy amikor az ember más állatok véréből transzfúziót kap, ezek az idegen vértestek az ember vérereiben a hemoglobin felszabadulásával összecsomósodnak és szétesnek. 1901-1903-ban Landsteiner rámutatott, hogy hasonló reakció léphet fel, amikor egy emberi egyed vérét nem egy másik állat, hanem egy másik ember vérével transzfundálják, és hogy ez lehet a sokk, a sárgaság és a hemoglobinuria oka, amely néhány korábbi vérátömlesztési kísérletet követett.
Javaslatai azonban kevés figyelmet kaptak, amíg 1909-ben az emberi vért a ma már jól ismert A, B, AB és O csoportokba sorolta, és kimutatta, hogy az A vagy B csoportba tartozó egyének közötti transzfúzió nem eredményezi az új vérsejtek pusztulását, és hogy ez a katasztrófa csak akkor következik be, ha egy személyt egy másik csoportba tartozó személy vérével transzfundálnak. Korábban, 1901-1903-ban Landsteiner már felvetette, hogy mivel a vércsoportokat meghatározó tulajdonságok öröklődnek, a vércsoportok felhasználhatók a kétséges apasági esetek eldöntésére. Landsteiner és tanítványai a vércsoportokkal és azok immunológiai felhasználásával kapcsolatos későbbi munkájuk nagy részét nem Bécsben, hanem New Yorkban végezték. Ugyanis 1919-ben Bécsben olyan körülmények uralkodtak, hogy a laboratóriumi munka nagyon nehézkes volt, és mivel Landsteiner nem látta Ausztria jövőjét, elnyerte egy kis hágai római katolikus kórház prorektori kinevezését. Itt 1919-1922 között tizenkét tanulmányt publikált az általa felfedezett új haptenekről, az anafilaxia kiváltására alkalmas fehérjékkel alkotott konjugátumokról és az ezzel kapcsolatos problémákról, valamint a különböző állatfajok hemoglobinjainak szerológiai specifitásáról. Hollandiában végzett munkája akkor ért véget, amikor a New York-i Rockefeller Institute for Medical Research (Rockefeller Orvosi Kutatóintézet) állást ajánlott neki, és családjával együtt oda költözött. Itt végezte Levine-nel és Wienerrel együttműködve a vércsoportokkal kapcsolatos további munkákat, amelyek nagymértékben kibővítették e csoportok számát, és itt Wienerrel együttműködve tanulmányozta az újszülöttek vérzését, ami a vér Rh-faktorának felfedezéséhez vezetett, amely az emberi vért a rhesusmajom véréhez kapcsolja.
Landsteiner élete végéig folytatta a vércsoportok és a vérben előforduló antigének, antitestek és egyéb immunológiai tényezők kémiájának vizsgálatát. Nagy érdemei közé tartozott, hogy bevezette a kémiát a szerológia szolgálatába.
A magával szemben támasztott követelményekben szigorúan igényes Landsteiner fáradhatatlan energiával rendelkezett. Egész életében állandóan megfigyeléseket végzett számos más területen is, mint amelyeken fő munkáját végezte (neki köszönhető például, hogy bevezette a sötétmezős megvilágítást a spirochaeták tanulmányozásában). Természeténél fogva kissé pesszimista volt, inkább az emberektől távol élt.
Landsteiner 1916-ban vette feleségül Helen Wlastót. Ebből a házasságból született Dr. E. Landsteiner fia.
1939-ben a Rockefeller Intézet emeritus professzora lett, de ugyanolyan energikusan dolgozott tovább, mint korábban, és buzgón tartotta a kapcsolatot a tudomány fejlődésével. Jellemző rá, hogy pipettával a kezében halt meg. 1943. június 24-én laboratóriumában szívrohamot kapott, és két nappal később meghalt annak az intézetnek a kórházában, amelyben oly kiváló munkát végzett.