Phi Beta Sigma, Inc. perustettiin Howardin yliopiston kampuksella tammikuun 9. päivänä 1914 kolmen opiskelijan toimesta: kunnianarvoisen A. Langston Taylorin, kunnianarvoisen Leonard F. Moren ja kunnianarvoisen Charles I. Brownin. Kolmikko innostui perustamaan järjestön, jonka lähtökohtana oli ruumiillistaa veljeyttä, oppineisuutta ja palvelua.

Veljeskunnan jäsenmäärän kasvaessa valtakunnallisesti kaksi perustajajäsentä työskenteli kampuksen viiden naisopiskelijan rinnalla auttaakseen perustamaan sisarjärjestönsä, Zeta Phi Betan. Nämä kaksi ryhmää olivat ensimmäiset perustuslaillisesti sidotut järjestöt lajissaan.

Kuten nykyään sen kansainväliset osastot toteavat, Phi Beta Sigma pyrki aina olemaan osallistava ryhmä ja avasi osastonsa jäsenille, joilla oli kaikki rodulliset ja taloudelliset taustat. Kuten sen tunnuslause ”Culture For Service and Service For Humanity” (Kulttuuria palvelua ja palvelua ihmiskunnalle) osoittaa, Phi Beta Sigma on jo pitkään asemoinut itsensä ryhmänä, joka on syvästi sidoksissa yhteisöihinsä.

Merkittäviin Phi Beta Sigma -jäseniin lukeutuvat muun muassa kansalaisoikeusaktivisti Hosea Williams, NFL:n Hall of Famers Jerry Rice ja Emmitt Smith, baseball-legenda Lou Brock, NBA:n Hall of Fameen lukeutuvat Willis Reed, Huey P. Newton ja A. Phillip Randolph sekä moni muu. Kunniajäseniin kuuluvat muun muassa pastori Al Sharpton, Harry Belafonte ja Terrence Howard.

KUVA: Phi Beta Sigma