Durante el periodo Heian de la cultura japonesa (700-1100), era un requisito social ser capaz de reconocer, apreciar y recitar instantáneamente la poesía japonesa y china. Fue en este periodo cuando las formas breves de poesía (tanka) se hicieron más populares que las formas largas de poesía (choka). El rígido estilo de vida de la época se trasladó al arte; cada poema debía tener una forma específica. La forma aprobada era el triplete 5-7-5 seguido de un pareado de siete sílabas (era el equivalente japonés al pentámetro yámbico de la Inglaterra de Shakespeare).

A partir de esta forma se desarrolló el renga (verso enlazado) y el kusari-no-renga (cadenas de versos enlazados). Estas formas se utilizaban casi como juegos de salón para la élite. Sin embargo, a mediados del siglo XVI comenzó un aumento de la poesía «campesina». Fue entonces cuando la poesía japonesa experimentó un renacimiento en el que las formas estables del pasado fueron sustituidas por un tono más ligero y aireado. Esta nueva forma se llamó haikai y más tarde se denominó renku.

El haikai consistía en un triplete inicial llamado hokku. El hokku se consideraba la parte más importante del poema. Tenía dos requisitos principales: una palabra estacional (kireji) y una «palabra de corte» o exclamación.

El poeta Basho infundió una nueva sensibilidad y sensibilidad a esta forma a finales del siglo XVII. Transformó la poética y convirtió el hokku en un poema independiente, que más tarde se conocería como haiku. La obra de Basho se centró en el concepto de karumi (sensación de ligereza), hasta el punto de abandonar las limitaciones silábicas tradicionales para conseguirlo.

En «On Love and Barley: Haiku of Basho», Lucien Stryk escribió:

«El estilo de haiku maduro de Basho, Shofu, es conocido no sólo por el karumi, sino también por otros dos ideales estéticos de inspiración zen: sabi y wabi. Sabi implica una soledad satisfecha, y en el Zen se asocia con la experiencia monástica temprana, cuando se cultiva un alto grado de desapego. Wabi puede describirse como el espíritu de la pobreza, una apreciación de lo común, y quizás se logra más plenamente en la ceremonia del té, que, desde los sencillos utensilios utilizados en la preparación del té hasta la propia estructura de la cabaña del té, honra lo humilde»

Basho también fue uno de los primeros defensores de la prosa espontánea. Creía y predicaba el concepto de Shasei (composición in situ y seguimiento del tema hasta su origen). Para dar una idea de su influencia, una escuela contemporánea de haiku, Tenro, es popular en todo Japón. Cuenta con unos dos mil miembros en todo el país que se reúnen en templos designados para escribir hasta cien haiku al día. El objetivo es intentar entrar en los objetos y compartir la «delicada vida y los sentimientos».

Desde los tiempos de Basho, la historia del haiku refleja el ideal zen que a menudo relata. Aunque ha pasado por muchas transformaciones, desarrollos y revisiones, el buen haiku de hoy en día es sorprendentemente similar a cuando Basho desarrolló la forma en el siglo XVII.

Entonces, ¿qué debe lograr el haiku? ¿Qué debe aportar al lector? Según los poetas clásicos del haiku de Japón, el haiku debe presentar al lector una observación de un acontecimiento natural y común, con las palabras más sencillas, sin trucos verbales. El efecto del haiku es de «parquedad». Es un arrebato momentáneo del flujo del tiempo, cristalizado y destilado. Nada más.

De todas las formas de poesía, el haiku es quizás la más exigente con el lector. Exige la participación del lector porque el haiku se limita a sugerir algo con la esperanza de que el lector encuentre «un atisbo de profundidades hasta ahora no reconocidas en el ser». Sin un público sensible, el haiku no es nada.

Otros dos importantes poetas de haiku, que siguieron la tradición de Basho, fueron Buson e Issa.

Hay una creciente tradición de haiku occidental, y escritores Beat como Jack Kerouac han hecho surgir una nueva conciencia de la posibilidad del haiku moderno.