Phi Beta Sigma Fraternity, Inc. (Sigma) werd opgericht op de campus van de Howard Universiteit in Washington, D.C., op 14 januari 1914, door drie studenten, A. Langston Taylor, Lenard F. Morse, en Charles I. Brown op de principes van Broederschap, Studiebeurs, en Dienst. De oprichters wilden dat de organisatie “een deel van” de gemeenschap zou zijn in plaats van “los van” de gemeenschap. Ze wilden ook een inclusieve organisatie creëren die niet discrimineerde op ras, familieachtergrond of sociale status.
Tegen de zomer van 1914 was Phi Beta Sigma gegroeid van de drie stichters tot meer dan 14 leden in haar Alpha Chapter aan de Howard University. De broederschap, die haar aantrekkingskracht wilde verbreden tot meer dan alleen studenten, initieerde ook een aantal opkomende geleerden in de zwarte gemeenschap, waaronder Dr. Edward P. Davis, Dr. Thomas W. Turner, en Dr. Alain Leroy Locke, een in 1907 aan Harvard University afgestudeerde student die in 1908 als eerste Afro-Amerikaanse Rhodes Scholar naar Oxford University in Engeland ging.
De broederschap groeide snel over het hele land met tegen 1920 afdelingen van Maryland tot Texas. Tegen die tijd hielpen Phi Beta Sigma-leden Charles R. Taylor en A. Langston Taylor ook bij de oprichting van de eerste “zuster”-sorority van een zwarte broederschap, Zeta Phi Beta Sorority op de Campus van Howard University. Sigma en Zeta zijn de enige grondwettelijk gebonden zuster-broeder organisatie onder de zwarte Greek-letter groepen.
Van bij de oprichting was de broederschap van mening dat zij een middel moest zijn om diensten te verlenen aan de Afro-Amerikaanse gemeenschap. De oprichters lieten dat idee tot uiting komen in het motto van de broederschap: “Cultuur voor Dienst en Dienst aan de Mensheid”. Een van de eerste programma’s, het “Bigger and Better Negro Business initiative”, begon op de nationale conventie van Sigma in Philadelphia in 1924. De broederschap gaf meer dan vijftig zwarte bedrijven de kans om op de conventie te exposeren om hen te helpen een nationale markt voor hun producten te creëren. Tegenwoordig wordt het initiatief gepromoot door Project S.E.E.D. (Sigma Economic Empowerment Development), dat zich blijft inzetten voor Afro-Amerikaanse zaken, maar dat ook lessen in financiële geletterdheid biedt en huisbezit bevordert.
Het Sigma Onderwijsprogramma biedt diensten en hulp aan afgestudeerden en studenten, zamelt geld in voor studiebeurzen en sponsort lezingen, collegebeurzen en mentorschapsprogramma’s in het hele land. Het Sigma Wellness-programma richt zich op een gezonde levensstijl door middel van onderwijs. Project Vote gaat door met het registreren van kiezers, terwijl Phi Beta Sigma Capitol Hill Summit de broederschapsleden in staat stelt om kritieke kwesties te bespreken met leden van het Amerikaanse Congres. In 2001 opende de broederschap het Sigma History Museum, een reizende tentoonstelling die zich richt op de geschiedenis van Sigma en de invloed ervan op de natie.
Prominente Sigma’s zijn onder andere Kwame Nkrumah, de eerste premier van Ghana, Nnamdi Azikiwe, de eerste president van Nigeria, de wetenschapper George Washington Carver, James Weldon Johnson, burgerrechtenleider en componist van “Lift Every Voice and Sing” (het zwarte volkslied), Dr. Rod Paige, voormalig minister van Onderwijs in de regering George W. Bush, John Lewis, Amerikaans congreslid, de oprichter van de Black Panther Party, Huey P. Newton, en de sterren van de National Football League, Jerry Rice en Emmett Smith.