Karl Landsteiner nasceu em Viena, em 14 de junho de 1868. Seu pai, Leopold Landsteiner, um médico de direito, era um conhecido jornalista e editor de jornais, que morreu quando Karl tinha seis anos de idade. Karl foi criado por sua mãe, Fanny Hess, a quem ele era tão devoto que uma máscara da morte dela foi pendurada na parede até a sua morte. Depois de deixar a escola, Landsteiner estudou medicina na Universidade de Viena, graduando-se em 1891. Mesmo quando era estudante começou a fazer pesquisas bioquímicas e em 1891 publicou um trabalho sobre a influência da dieta na composição das cinzas do sangue. Para obter mais conhecimentos de química passou os cinco anos seguintes nos laboratórios de Hantzsch em Zurique, Emil Fischer em Wurzburg, e E. Bamberger em Munique.
Voltando a Viena, Landsteiner retomou os seus estudos médicos no Hospital Geral de Viena. Em 1896, tornou-se assistente de Max von Gruber no Instituto de Higiene em Viena. Mesmo nesta época ele estava interessado nos mecanismos da imunidade e na natureza dos anticorpos. De 1898 até 1908 ele ocupou o cargo de assistente no Departamento de Anatomia Patológica da Universidade de Viena, cujo chefe era o Professor A. Weichselbaum, que tinha descoberto a causa bacteriana da meningite, e com Fraenckel tinha descoberto o pneumococo. Aqui Landsteiner trabalhou na fisiologia mórbida e não na anatomia mórbida. Nisto ele foi encorajado pelo Weichselbaum, apesar das críticas de outros neste Instituto. Em 1908 Weichselbaum garantiu sua nomeação como Prosector no Wilhelminaspital em Viena, onde permaneceu até 1919. Em 1911 tornou-se Professor de Anatomia Patológica na Universidade de Viena, mas sem o salário correspondente.
Até o ano 1919, após vinte anos de trabalho em anatomia patológica, Landsteiner com vários colaboradores tinha publicado muitos artigos sobre as suas descobertas em anatomia mórbida e sobre imunologia. Ele descobriu novos fatos sobre a imunologia da sífilis, acrescentou ao conhecimento da reação de Wassermann e descobriu os fatores imunológicos que ele chamou de haptens (ficou claro então que as substâncias ativas nos extratos de órgãos normais utilizados nesta reação eram, de fato, haptens). Ele fez contribuições fundamentais para o nosso conhecimento da hemoglobinúria paroxística.
Ele também mostrou que a causa da poliomielite podia ser transmitida aos macacos, injetando neles material preparado pela moagem das cordas espinhais de crianças que haviam morrido desta doença, e, faltando em Viena macacos para novas experiências, ele foi ao Instituto Pasteur em Paris, onde macacos estavam disponíveis. O seu trabalho lá, juntamente com o realizado independentemente por Flexner e Lewis, lançou as bases do nosso conhecimento da causa e imunologia da poliomielite.
Landsteiner fez numerosas contribuições tanto para a anatomia patológica, histologia e imunologia, todas elas mostrando, não só o seu cuidado meticuloso na observação e descrição, mas também a sua compreensão biológica. Mas seu nome será sem dúvida sempre honrado por sua descoberta, em 1901, dos grupos sanguíneos, pelos quais recebeu o Prêmio Nobel de Fisiologia ou Medicina em 1930.
Em 1875 Landois tinha relatado que, quando o homem recebe transfusões de sangue de outros animais, esses corpos sanguíneos estranhos são aglomerados e quebrados nos vasos sanguíneos do homem com a liberação da hemoglobina. Em 1901-1903 Landsteiner apontou que uma reação semelhante pode ocorrer quando o sangue de um indivíduo humano é transfundido, não com o sangue de outro animal, mas com o de outro ser humano, e que esta pode ser a causa do choque, icterícia e hemoglobinúria que se seguiu a algumas tentativas anteriores de transfusão de sangue.
Suas sugestões, entretanto, receberam pouca atenção até que, em 1909, ele classificou o sangue de seres humanos nos conhecidos grupos A, B, AB e O e mostrou que transfusões entre indivíduos dos grupos A ou B não resultam na destruição de novas células sanguíneas e que esta catástrofe só ocorre quando uma pessoa é transfundida com o sangue de uma pessoa pertencente a um grupo diferente. Anteriormente, em 1901-1903, Landsteiner tinha sugerido que, como as características que determinam os grupos sanguíneos são herdadas, os grupos sanguíneos podem ser usados para decidir casos de paternidade duvidosa. Muito do trabalho subsequente que Landsteiner e seus alunos fizeram sobre os grupos sanguíneos e os usos imunológicos que fizeram deles foi feito, não em Viena, mas em Nova Iorque. Pois em 1919 as condições em Viena eram tais que o trabalho de laboratório era muito difícil e, não vendo nenhum futuro para a Áustria, Landsteiner obteve a nomeação de um Procurador para um pequeno Hospital Católico Romano em Haia. Aqui ele publicou, de 1919-1922, doze artigos sobre os novos acidentes que tinha descoberto, sobre conjugados com proteínas capazes de induzir anafilaxia e sobre problemas relacionados, e também sobre a especificidade serológica das hemoglobinas de diferentes espécies de animais. O seu trabalho na Holanda terminou quando lhe foi oferecido um posto no Instituto Rockefeller de Pesquisa Médica em Nova Iorque e ele se mudou para lá juntamente com a sua família. Foi aqui que ele fez, em colaboração com Levine e Wiener, o trabalho adicional sobre os grupos sanguíneos, o que aumentou muito o número desses grupos, e aqui em colaboração com Wiener estudou a hemorragia no recém-nascido, levando à descoberta do fator Rh no sangue, que relaciona o sangue humano com o sangue do macaco rhesus.
Até o final de sua vida, Landsteiner continuou a investigar os grupos sanguíneos e a química dos antígenos, anticorpos e outros fatores imunológicos que ocorrem no sangue. Foi um de seus grandes méritos que ele introduziu a química ao serviço da serologia.
Rigorosamente exigente nas exigências que fazia a si mesmo, Landsteiner possuía uma energia incansável. Ao longo de sua vida ele estava sempre fazendo observações em muitos campos diferentes daqueles em que seu trabalho principal era feito (ele foi, por exemplo, responsável por ter introduzido a iluminação do campo escuro no estudo das espiroquetas). Por natureza um pouco pessimista, ele preferia viver longe das pessoas.
Landsteiner casou-se com Helen Wlasto em 1916. Dr. E. Landsteiner é um filho por este casamento.
Em 1939 ele tornou-se Professor Emérito no Instituto Rockefeller, mas continuou a trabalhar tão energicamente como antes, mantendo-se avidamente em contato com o progresso da ciência. É característico dele que ele morreu pipetando na mão. Em 24 de junho de 1943, teve um ataque cardíaco em seu laboratório e morreu dois dias depois no hospital do Instituto no qual tinha feito um trabalho tão distinto.