Karl Landsteiner urodził się w Wiedniu 14 czerwca 1868 roku. Jego ojciec, Leopold Landsteiner, doktor prawa, był znanym dziennikarzem i wydawcą gazet, który zmarł, gdy Karl miał sześć lat. Wychowywała go matka, Fanny Hess, której był tak oddany, że aż do śmierci wisiała u niego na ścianie jej maska pośmiertna. Po ukończeniu szkoły Landsteiner studiował medycynę na Uniwersytecie Wiedeńskim, który ukończył w 1891 roku. Już w czasie studiów rozpoczął badania biochemiczne i w 1891 r. opublikował pracę na temat wpływu diety na skład popiołu we krwi. Aby zdobyć dalszą wiedzę w dziedzinie chemii spędził kolejne pięć lat w laboratoriach Hantzsch w Zurychu, Emil Fischer w Wurzburgu, a E. Bamberger w Monachium.
Powrót do Wiednia, Landsteiner wznowił studia medyczne w Szpitalu Ogólnym w Wiedniu. W 1896 roku został asystentem Maxa von Grubera w Instytucie Higieny w Wiedniu. Już w tym czasie interesował się mechanizmami odporności i naturą przeciwciał. Od 1898 do 1908 r. był asystentem w Uniwersyteckiej Katedrze Anatomii Patologicznej w Wiedniu, której kierownikiem był prof. A. Weichselbaum, który odkrył bakteryjną przyczynę zapalenia opon mózgowych, a wraz z Fraencklem odkrył pneumokoka. Landsteiner zajmował się tu raczej fizjologią niż anatomią chorób. Zachęcał go do tego Weichselbaum, mimo krytyki ze strony innych pracowników Instytutu. W 1908 r. Weichselbaum załatwił mu nominację na prosektora w wiedeńskim Wilhelminaspital, gdzie pozostał do 1919 r. W 1911 r. został profesorem medycyny sądowej. W 1911 roku został profesorem anatomii patologicznej na Uniwersytecie Wiedeńskim, ale bez odpowiedniego wynagrodzenia.
Do 1919 roku, po dwudziestu latach pracy nad anatomią patologiczną, Landsteiner wraz z wieloma współpracownikami opublikował wiele prac na temat swoich odkryć z zakresu anatomii patologicznej i immunologii. Odkrył nowe fakty dotyczące immunologii kiły, uzupełnił wiedzę na temat reakcji Wassermanna i odkrył czynniki immunologiczne, które nazwał haptenami (później stało się jasne, że substancje czynne w ekstraktach normalnych organów używanych w tej reakcji były w rzeczywistości haptenami). Wniósł fundamentalny wkład w naszą wiedzę na temat napadowej hemoglobinurii.
Wykazał również, że przyczyna poliomyelitis może być przenoszona na małpy poprzez wstrzykiwanie im materiału przygotowanego przez rozdrobnienie rdzenia kręgowego dzieci, które zmarły na tę chorobę, a ponieważ w Wiedniu brakowało małp do dalszych eksperymentów, udał się do Instytutu Pasteura w Paryżu, gdzie małpy były dostępne. Jego praca tam, wraz z tą wykonaną niezależnie przez Flexnera i Lewisa, położyła podwaliny pod naszą wiedzę o przyczynach i immunologii poliomyelitis.
Landsteiner wniósł liczne wkłady zarówno w anatomię patologiczną, histologię, jak i immunologię, z których wszystkie pokazały nie tylko jego skrupulatność w obserwacji i opisie, ale także jego biologiczne zrozumienie. Ale jego nazwisko bez wątpienia zawsze będzie honorowane za odkrycie w 1901 roku i wybitną pracę nad grupami krwi, za co otrzymał Nagrodę Nobla w dziedzinie fizjologii lub medycyny w 1930 roku.
W 1875 roku Landois doniósł, że kiedy człowiek otrzymuje transfuzje krwi innych zwierząt, te obce ciałka krwi zlepiają się i rozpadają w naczyniach krwionośnych człowieka, uwalniając hemoglobinę. W latach 1901-1903 Landsteiner zwrócił uwagę, że podobna reakcja może wystąpić, gdy krew jednego człowieka zostanie przetoczona nie z krwią innego zwierzęcia, ale z krwią innego człowieka, i że może to być przyczyną wstrząsu, żółtaczki i hemoglobinurii, które wystąpiły po niektórych wcześniejszych próbach transfuzji krwi.
Jego sugestie nie spotkały się jednak z większym zainteresowaniem, dopóki w 1909 roku nie sklasyfikował krwi ludzkiej na dobrze znane obecnie grupy A, B, AB i O oraz nie wykazał, że transfuzje pomiędzy osobnikami z grup A lub B nie powodują zniszczenia nowych komórek krwi, a katastrofa ta ma miejsce tylko wtedy, gdy osobie przetacza się krew osoby należącej do innej grupy. Wcześniej, w latach 1901-1903, Landsteiner zasugerował, że ponieważ cechy, które determinują grupy krwi, są dziedziczone, grupy krwi mogą być wykorzystane do rozstrzygania przypadków wątpliwego ojcostwa. Znaczna część późniejszej pracy Landsteinera i jego uczniów nad grupami krwi i ich immunologicznymi zastosowaniami została wykonana nie w Wiedniu, lecz w Nowym Jorku. W 1919 roku warunki w Wiedniu były bowiem takie, że praca laboratoryjna była bardzo trudna, a Landsteiner, nie widząc przyszłości dla Austrii, uzyskał nominację na prosektora małego szpitala rzymskokatolickiego w Hadze. Opublikował tam w latach 1919-1922 dwanaście prac na temat odkrytych przez siebie nowych haptenów, koniugatów z białkami, które mogą wywoływać anafilaksję i związanych z tym problemów, a także na temat swoistości serologicznej hemoglobin różnych gatunków zwierząt. Jego praca w Holandii dobiegła końca, gdy otrzymał propozycję objęcia stanowiska w Rockefeller Institute for Medical Research w Nowym Jorku i przeniósł się tam wraz z rodziną. To tutaj we współpracy z Levine’em i Wienerem prowadził dalsze prace nad grupami krwi, które znacznie rozszerzyły liczbę tych grup, i tutaj we współpracy z Wienerem badał krwawienia u noworodków, co doprowadziło do odkrycia czynnika Rh we krwi, który łączy krew ludzką z krwią małpy rhesus.
Do końca życia Landsteiner kontynuował badania nad grupami krwi oraz chemią antygenów, przeciwciał i innych czynników immunologicznych występujących we krwi. Jedną z jego wielkich zasług było wprowadzenie chemii w służbę serologii.
Rygorystycznie wymagający w stawianych sobie wymaganiach, Landsteiner posiadał niespożytą energię. Przez całe życie prowadził obserwacje w wielu dziedzinach innych niż te, w których wykonywał swoją główną pracę (był na przykład odpowiedzialny za wprowadzenie oświetlenia w ciemnym polu w badaniach nad spirochaetes). Z natury nieco pesymistyczny, wolał żyć z dala od ludzi.
Landsteiner ożenił się z Helen Wlasto w 1916 roku. Z tego małżeństwa dr E. Landsteiner ma syna.
W 1939 roku został emerytowanym profesorem w Instytucie Rockefellera, ale nadal pracował równie energicznie jak poprzednio, utrzymując gorliwy kontakt z postępem nauki. Charakterystyczne dla niego jest to, że umierał z pipetą w ręku. 24 czerwca 1943 r. miał atak serca w swoim laboratorium i zmarł dwa dni później w szpitalu Instytutu, w którym tak zasłużenie pracował.