Vuoden 1994 alussa kaksi Stanfordin yliopiston sähkötekniikan tohtorikoulutettavaa – Jerry Yang (syntynyt 6.11.1968 Taipeissa, Taiwanissa) ja David Filo (syntynyt 20.4.1966 Wisconsinissa) – etsittiin yhtä ainoaa paikkaa, josta löytyisi käyttökelpoisia verkkosivuja, ja tapaa, jolla he voisivat seurata henkilökohtaisia kiinnostuksenkohteitaan Internetissä. Koska he eivät onnistuneet löytämään tällaista työkalua, he päättivät luoda omansa. Näin nykyään kaikkialla läsnä oleva verkkoportaali ja maailmanlaajuinen tuotemerkki Yahoo! alkoi opiskelijoiden harrastuksesta ja kehittyi sivustoksi, joka on muuttanut tapaa, jolla ihmiset kommunikoivat toistensa kanssa, löytävät ja saavat tietoa.
Filo ja Yang aloittivat projektinsa toteuttamisen kampusalueen asuntovaunussa helmikuussa 1994, ja ennen pitkää he viettivät enemmän aikaa itse kyhäämiensä suosikkilinkkilistojen parissa kuin väitöskirjojensa parissa. Lopulta Jerryn ja Davidin listoista tuli liian pitkiä ja hankalia, ja he jakoivat ne luokkiin. Kun kategorioista tuli liian täysiä, he kehittivät alaluokkia, ja näin syntyi Yahoon ydinkonsepti.
Web-sivusto aloitti nimellä Jerry and David’s Guide to the World Wide Web (Jerryn ja Davidin opas World Wide Webiin), mutta sai lopulta uuden nimimerkin sanakirjan avulla. Filo ja Yang päättivät valita nimen Yahoo, koska he pitivät sanan yleismääritelmästä (joka on peräisin Jonathan Swiftin Gulliver’s Travels -teoksesta, jossa Yahoo on legendaarinen olento): epäkohtelias, sivistymätön, tökerö. Myöhemmin nimi Yahoo popularisoitiin akronyymiksi Yet Another Hierarchical Officious Oracle
Itse Yahoo! sijaitsi aluksi Yangin opiskelijan työasemalla, Akebonolla, (URL oli akebono.stanford.edu/yahoo), kun taas ohjelmisto oli Filon tietokoneella, Konishikissa, jotka molemmat oli nimetty legendaaristen sumopainijoiden mukaan.
Yllätyksekseen Jerry ja David huomasivat pian, etteivät he olleet ainoita, jotka halusivat yhden ainoan paikan, josta löytäisivät hyödyllisiä verkkosivustoja. Ennen pitkää sadat ihmiset käyttivät heidän opastustaan kaukana Stanfordin asuntovaunun ulkopuolelta. Sana levisi ystävistä nopeasti merkittävään, uskolliseen yleisöön koko tiiviisti yhteenliittyneessä Internet-yhteisössä. Yahoo! juhli ensimmäistä miljoona kävijää syksyllä 1994, mikä tarkoitti lähes 100 tuhatta kävijää.
Yahoo!-verkkotunnus luotiin 18. tammikuuta 1995. Liikennemäärien vyöryn ja innostuneen vastaanoton vuoksi Yahoo!:n perustajat tiesivät, että heillä oli käsissään potentiaalinen yritys. Maaliskuussa 1995 kaksikko yhtiöitti yrityksen ja tapasi kymmeniä Piilaakson pääomasijoittajia etsiessään rahoitusta. He törmäsivät lopulta Michael Moritziin Sequoia Capitalista, arvostetusta yrityksestä, jonka menestyksekkäimpiin sijoituskohteisiin kuuluivat Apple Computer, Atari, Oracle ja Cisco Systems. Sequoia Capital suostui rahoittamaan Yahoo!:ta huhtikuussa 1995 lähes kahden miljoonan dollarin alkusijoituksella.
Kuten monet muutkin verkkohakukoneet, Yahoo aloitti verkkohakemistona, mutta monipuolistui pian verkkoportaaliksi ja hakukoneeksi.
Toteuttaessaan, että uudella yrityksellä oli mahdollisuus kasvaa nopeasti, perustajat alkoivat etsiä johtoryhmää. He palkkasivat toimitusjohtajaksi Motorolan veteraanin Tim Kooglen ja operatiiviseksi johtajaksi Jeffrey Mallettin, Novellin WordPerfect-kuluttajaosaston perustajan. Varmistettuaan toisen rahoituskierroksen syksyllä 1995 ja järjestettyään listautumisannin Yahoo keräsi 33,8 miljoonaa dollaria huhtikuussa 1996, ja sen palveluksessa oli 49 työntekijää.
Tässä näet Yahoon varhaisimman tunnetun verkkosivuston vuodelta 1996.
Tänään Yahoo! Inc. on johtava maailmanlaajuinen Internet-viestintä-, kaupankäynti- ja mediayritys, joka tarjoaa kattavan tuotemerkillä varustetun palveluverkon yli 350 miljoonalle henkilölle joka kuukausi maailmanlaajuisesti. Se tarjoaa internet-viestintäpalveluita (kuten Yahoo! Messenger ja Yahoo! Mail), sosiaalisen verkostoitumisen palveluita ja käyttäjien tuottamaa sisältöä (kuten My Web, Yahoo! Personals, Yahoo! 360°, Delicious, Flickr ja Yahoo! Buzz), mediasisältöjä ja uutisia (kuten Yahoo! Sports, Yahoo! Finance, Yahoo! Music, Yahoo! Movies, Yahoo! News, Yahoo! Answers ja Yahoo! Games) jne. Yahoo!:n pääkonttori sijaitsee Sunnyvalessa, Kaliforniassa, ja sillä on toimistoja Euroopassa, Aasiassa, Latinalaisessa Amerikassa, Australiassa, Kanadassa ja Yhdysvalloissa.