Phi Beta Sigma Fraternity, Inc. (Sigma) 1914. január 14-én, a washingtoni Howard Egyetem campusán alapította három egyetemista, A. Langston Taylor, Lenard F. Morse és Charles I. Brown a testvériség, az ösztöndíj és a szolgálat elvei alapján. Az alapítók azt akarták, hogy a szervezet “része” legyen a közösségnek, ne pedig “különálló”. Emellett egy olyan befogadó szervezetet akartak létrehozni, amely nem tesz különbséget faji, családi vagy társadalmi státusz alapján.
1914 nyarára a Phi Beta Sigma a három alapítótól több mint 14 tagúra nőtt a Howard Egyetemen működő Alpha Chapterben. A szövetség, amely igyekezett az egyetemi hallgatókon túlra is kiterjeszteni vonzerejét, a fekete közösség számos feltörekvő tudósát is beavatta, köztük Dr. Edward P. Davist, Dr. Thomas W. Turnert és Dr. Alain Leroy Locke-ot, aki 1907-ben végzett a Harvard Egyetemen, és 1908-ban az első afroamerikai Rhodes-ösztöndíjasként került az angliai Oxford Egyetemre.
A szövetség gyorsan nőtt országszerte, 1920-ra Marylandtől Texasig számos tagozata alakult. Szintén erre az időpontra a Phi Beta Sigma tagjai, Charles R. Taylor és A. Langston Taylor segítettek létrehozni az első fekete testvérszövetséget, a Zeta Phi Beta Sorority-t a Howard Egyetem kampuszán. A Szigma és a Zéta az egyetlen alkotmányosan kötött testvér-testvér szervezet a fekete görög betűs csoportok között.
A szövetség alapításától kezdve úgy gondolta, hogy az afroamerikai közösségnek nyújtott szolgáltatások eszközeként kell működnie. Az alapítók ezt az elképzelést a testvériség mottójával mutatták be: “Kultúra a szolgálatért és az emberiség szolgálata”. Az egyik legkorábbi program, a Bigger and Better Negro Business kezdeményezés a Sigma 1924-es philadelphiai nemzeti kongresszusán indult. A testvériség több mint ötven fekete vállalkozásnak engedélyezte, hogy kiállítson a kongresszuson, hogy segítsen nekik országos piacot teremteni termékeik számára. Ma a kezdeményezést a Project S.E.E.D. (Sigma Economic Empowerment Development) révén támogatják, amely továbbra is az afroamerikai vállalkozásokat támogatja, de emellett pénzügyi ismereteket oktat, és elősegíti az otthoni tulajdonszerzést.
A Sigma Oktatási Programja szolgáltatásokat és segítséget nyújt a végzős és egyetemi hallgatóknak, ösztöndíjakra gyűjt pénzt, valamint előadásokat, egyetemi vásárokat és mentorprogramokat szponzorál országszerte. A Sigma Wellness Program az egészséges életmódra összpontosít az oktatáson keresztül. A Project Vote folytatja a szavazók regisztrálását, míg a Phi Beta Sigma Capitol Hill Summit lehetővé teszi a szövetség tagjai számára, hogy kritikus kérdéseket vitassanak meg az amerikai kongresszusi képviselőkkel. 2001-ben a szövetség megnyitotta a Sigma Történeti Múzeumot, egy vándorkiállítást, amely a Sigma történetére és a nemzetre gyakorolt hatására összpontosít.
A prominens Sigmák közé tartozik Kwame Nkrumah, Ghána első miniszterelnöke, Nnamdi Azikiwe, Nigéria első elnöke, George Washington Carver tudós, James Weldon Johnson, polgárjogi vezető és a “Lift Every Voice and Sing” (a fekete himnusz) szerzője, dr. Rod Paige, George W. Bush kormányának korábbi oktatási minisztere, John Lewis, amerikai kongresszusi képviselő, Huey P. Newton, a Fekete Párducok Pártjának alapítója, valamint Jerry Rice és Emmett Smith, a National Football League sztárjai.