Karl Landsteiner werd op 14 juni 1868 in Wenen geboren. Zijn vader, Leopold Landsteiner, doctor in de rechten, was een bekend journalist en uitgever van kranten, die overleed toen Karl zes jaar oud was. Karl werd opgevoed door zijn moeder, Fanny Hess, aan wie hij zo gehecht was dat een dodenmasker van haar aan zijn muur hing tot hij stierf. Na zijn schooltijd studeerde Landsteiner medicijnen aan de Universiteit van Wenen, waar hij in 1891 afstudeerde. Al tijdens zijn studie was hij begonnen met biochemisch onderzoek en in 1891 publiceerde hij een artikel over de invloed van voeding op de samenstelling van bloedas. Om zich verder in de chemie te bekwamen verbleef hij de volgende vijf jaar in de laboratoria van Hantzsch te Zürich, Emil Fischer te Wurzburg, en E. Bamberger te München.
Teruggekeerd in Wenen hervatte Landsteiner zijn medische studie in het Algemeen Ziekenhuis te Wenen. In 1896 werd hij assistent van Max von Gruber in het Hygiëne Instituut te Wenen. Reeds in die tijd was hij geïnteresseerd in de mechanismen van de immuniteit en in de aard van antilichamen. Van 1898 tot 1908 was hij assistent in de universitaire afdeling voor pathologische anatomie in Wenen, waarvan professor A. Weichselbaum, die de bacteriële oorzaak van meningitis had ontdekt, en met Fraenckel de pneumokok had ontdekt, het hoofd was. Hier werkte Landsteiner meer aan de morbide fysiologie dan aan de morbide anatomie. Hij werd hierin aangemoedigd door Weichselbaum, ondanks de kritiek van anderen in dit Instituut. In 1908 zorgde Weichselbaum voor zijn benoeming tot Prosector in het Wilhelminaspital in Wenen, waar hij tot 1919 bleef. In 1911 werd hij hoogleraar in de pathologische anatomie aan de universiteit van Wenen, maar zonder het bijbehorende salaris.
Tot het jaar 1919, na twintig jaar werk op het gebied van de pathologische anatomie, had Landsteiner met een aantal medewerkers vele artikelen gepubliceerd over zijn bevindingen in de morbide anatomie en over immunologie. Hij ontdekte nieuwe feiten over de immunologie van syfilis, vulde de kennis van de Wassermann-reactie aan en ontdekte de immunologische factoren die hij haptens noemde (het werd toen duidelijk dat de werkzame stoffen in de extracten van normale organen die bij deze reactie werden gebruikt, in feite haptens waren). Hij leverde fundamentele bijdragen aan onze kennis van paroxysmale hemoglobinurie.
Hij toonde ook aan dat de oorzaak van poliomyelitis op apen kon worden overgebracht door hun materiaal in te spuiten dat was bereid door het vermalen van ruggenmerg van kinderen die aan deze ziekte waren gestorven, en, bij gebrek aan Weense apen voor verdere experimenten, ging hij naar het Pasteur Instituut in Parijs, waar apen beschikbaar waren. Zijn werk daar, samen met dat wat onafhankelijk van elkaar werd gedaan door Flexner en Lewis, legde de basis van onze kennis van de oorzaak en immunologie van poliomyelitis.
Landsteiner leverde talrijke bijdragen aan zowel de pathologische anatomie, histologie en immunologie, die allemaal niet alleen blijk gaven van zijn nauwgezette zorgvuldigheid in observatie en beschrijving, maar ook van zijn biologisch inzicht. Maar zijn naam zal ongetwijfeld altijd geëerd worden voor zijn ontdekking in 1901 van, en uitmuntend werk over, de bloedgroepen, waarvoor hij de Nobelprijs voor Fysiologie of Geneeskunde kreeg in 1930.
In 1875 had Landois gerapporteerd dat, wanneer de mens transfusies krijgt van het bloed van andere dieren, deze vreemde bloedlichaampjes samenklonteren en uiteenvallen in de bloedvaten van de mens met het vrijkomen van hemoglobine. In 1901-1903 wees Landsteiner erop dat een soortgelijke reactie kan optreden wanneer het bloed van een mens wordt getransfundeerd, niet met het bloed van een ander dier, maar met dat van een ander mens, en dat dit de oorzaak zou kunnen zijn van de shock, geelzucht en hemoglobinurie die zich na enkele eerdere pogingen tot bloedtransfusies hadden voorgedaan.
Zijn suggesties kregen echter weinig aandacht totdat hij in 1909 het bloed van mensen indeelde in de nu bekende A-, B-, AB- en O-groepen en aantoonde dat transfusies tussen personen van groep A of B niet leiden tot de vernietiging van nieuwe bloedcellen en dat deze catastrofe zich alleen voordoet wanneer een persoon wordt getransfundeerd met het bloed van een persoon die tot een andere groep behoort. Eerder, in 1901-1903, had Landsteiner gesuggereerd dat, omdat de kenmerken die de bloedgroepen bepalen erfelijk zijn, de bloedgroepen kunnen worden gebruikt om te beslissen in gevallen van twijfelachtig vaderschap. Veel van het werk dat Landsteiner en zijn leerlingen daarna verrichtten op het gebied van bloedgroepen en de immunologische toepassingen die zij daarvan maakten, vond niet in Wenen plaats, maar in New York. In 1919 waren de omstandigheden in Wenen van dien aard dat laboratoriumwerk zeer moeilijk was en omdat Landsteiner geen toekomst zag voor Oostenrijk, kreeg hij de benoeming tot Proctor van een klein Rooms Katholiek Ziekenhuis in Den Haag. Hier publiceerde hij, van 1919-1922, twaalf artikelen over nieuwe haptens die hij had ontdekt, over conjugaten met eiwitten die in staat waren anafylaxie te induceren en over aanverwante problemen, en ook over de serologische specificiteit van de hemoglobines van verschillende diersoorten. Aan zijn werk in Nederland kwam een einde toen hem een post werd aangeboden aan het Rockefeller Institute for Medical Research in New York en hij verhuisde daarheen met zijn gezin. Het was hier dat hij, in samenwerking met Levine en Wiener, het verdere werk aan de bloedgroepen verrichtte dat het aantal van deze groepen sterk uitbreidde, en hier in samenwerking met Wiener bloedingen bij pasgeborenen bestudeerde, wat leidde tot de ontdekking van de Rh-factor in het bloed, die het menselijk bloed in verband brengt met het bloed van de resusaap.
Tot het einde van zijn leven bleef Landsteiner bloedgroepen onderzoeken en de chemie van antigenen, antilichamen en andere immunologische factoren die in het bloed voorkomen. Het was een van zijn grote verdiensten dat hij de chemie in dienst stelde van de serologie.
Streng in de eisen die hij aan zichzelf stelde, bezat Landsteiner een onvermoeibare energie. Gedurende zijn hele leven deed hij voortdurend waarnemingen op vele andere gebieden dan die waarop zijn hoofdwerk werd verricht (hij was bijvoorbeeld verantwoordelijk voor de invoering van donkerveldverlichting bij de studie van spirochaeten). Van nature enigszins pessimistisch, gaf hij er de voorkeur aan ver van de mensen te leven.
Landsteiner trouwde in 1916 met Helen Wlasto. Uit dit huwelijk heeft Dr. E. Landsteiner een zoon.
In 1939 werd hij emeritus hoogleraar aan het Rockefeller Instituut, maar hij bleef even energiek werken als voorheen en hield gretig contact met de vooruitgang van de wetenschap. Het is kenmerkend voor hem dat hij stierf met een pipet in de hand. Op 24 juni 1943 kreeg hij een hartaanval in zijn laboratorium en overleed twee dagen later in het ziekenhuis van het Instituut waar hij zulk voortreffelijk werk had verricht.