1994 elején a Stanford Egyetem két villamosmérnöki doktorjelöltje, Jerry Yang (született 1968. november 6-án Tajpejben, Tajvanon) és David Filo (született 1966. április 20-án Wisconsinban) egyetlen helyet keresett, ahol hasznos weboldalakat találhatnak, és ahol nyomon követhetik személyes érdeklődési körüket az interneten. Mivel nem sikerült ilyen eszközt találniuk, úgy döntöttek, hogy létrehozzák a sajátjukat. Így a ma már mindenütt jelenlévő internetes portál és globális márka, a Yahoo! egy diákkori hobbiból indult, és olyan oldallá fejlődött, amely megváltoztatta az emberek egymás közötti kommunikációját, az információk megtalálását és elérését.
Filo és Yang 1994 februárjában egy egyetemi lakókocsiban kezdte el projektje megvalósítását, és nemsokára már több időt töltöttek a kedvenc linkek házilag összeállított listájával, mint a doktori disszertációjukkal. Végül Jerry és David listái túl hosszúvá és nehézkessé váltak, ezért kategóriákra bontották őket. Amikor a kategóriák túlságosan megteltek, alkategóriákat alakítottak ki, így született meg a Yahoo alapkoncepciója.
A weboldal Jerry és David útmutatója a világhálóhoz címmel indult, de végül egy szótár segítségével új becenevet kapott. Filo és Yang azért döntöttek a Yahoo név mellett, mert tetszett nekik a szó általános meghatározása (amely Jonathan Swift Gulliver utazásai című művéből származik, ahol a Yahoo egy legendás lény): durva, műveletlen, faragatlan. Később a Yahoo név a Yet Another Hierarchical Officious Oracle
bakronimájaként vált népszerűvé.A Yahoo! először Yang diákjainak munkaállomásán, az Akebono-n (az URL akebono.stanford.edu/yahoo), míg a szoftver Filo számítógépén, a Konishikin volt elhelyezve, mindkettő legendás szumóbirkózókról kapta a nevét.
Meglepetésükre Jerry és David hamarosan rájöttek, hogy nincsenek egyedül azzal, hogy egyetlen helyen szeretnének hasznos weboldalakat találni. Hamarosan már több százan keresték fel az útmutatójukat a stanfordi lakókocsin kívülről is. A hír a barátok között terjedt el, és hamarosan jelentős, hűséges közönséggé vált a szorosan összetartozó internetes közösségben. A Yahoo! 1994 őszén ünnepelte első egymillió látogatós napját, ami közel 100 ezer egyedi látogatót jelentett.
A Yahoo! domain 1995. január 18-án jött létre. A Yahoo! forgalmának áradata és lelkes fogadtatása miatt az alapítók tudták, hogy egy potenciális vállalkozással van dolguk. 1995 márciusában a páros bejegyezte a vállalkozást, és több tucat szilícium-völgyi kockázati tőkebefektetővel találkozott, finanszírozást keresve. Végül rábukkantak Michael Moritzra a Sequoia Capital-tól, a jó hírű cégtől, amelynek legsikeresebb befektetései közé tartozott az Apple Computer, az Atari, az Oracle és a Cisco Systems. A Sequoia Capital 1995 áprilisában beleegyezett a Yahoo! finanszírozásába, közel 2 millió dolláros kezdeti befektetéssel.
Mint sok más internetes keresőmotor, a Yahoo is internetes könyvtárként indult, de hamarosan internetes portál és keresőmotor lett belőle.
Az alapítók felismerve, hogy új cégükben megvan a gyors növekedés lehetősége, elkezdtek vezetői csapatot keresni. Tim Koogle-t, a Motorola veteránját vették fel vezérigazgatónak, Jeffrey Mallett-et, a Novell WordPerfect fogyasztói részlegének alapítóját pedig operatív igazgatónak. Miután 1995 őszén biztosították a második finanszírozási kört és a tőzsdei bevezetést, a Yahoo 1996 áprilisában 33,8 millió dollárt gyűjtött, és összesen 49 alkalmazottat foglalkoztatott.
Itt látható a Yahoo! legkorábbi ismert honlapja 1996-ból.
Mára a Yahoo! Inc. vezető globális internetes kommunikációs, kereskedelmi és médiavállalat, amely havonta világszerte több mint 350 millió embernek kínál átfogó, márkás szolgáltatási hálózatot. Internetes kommunikációs szolgáltatásokat (például Yahoo! Messenger és Yahoo! Mail), közösségi hálózati szolgáltatásokat és felhasználó által generált tartalmakat (például My Web, Yahoo! Personals, Yahoo! 360°, Delicious, Flickr és Yahoo! Buzz), médiatartalmakat és híreket (például Yahoo! Sports, Yahoo! Finance, Yahoo! Music, Yahoo! Movies, Yahoo! News, Yahoo! Answers és Yahoo! Games) stb. kínál. A Yahoo! székhelye a kaliforniai Sunnyvale-ben található, a Yahoo! Európában, Ázsiában, Latin-Amerikában, Ausztráliában, Kanadában és az Egyesült Államokban is rendelkezik irodákkal.