La Fraternidad Phi Beta Sigma, Inc. (Sigma) fue fundada en el campus de la Universidad Howard en Washington, D.C., el 14 de enero de 1914, por tres estudiantes universitarios, A. Langston Taylor, Lenard F. Morse y Charles I. Brown sobre los principios de Hermandad, Beca y Servicio. Los fundadores querían que la organización fuera «parte de» y no «aparte de» la comunidad. También querían crear una organización inclusiva que no discriminara por origen racial, antecedentes familiares o estatus social.
Para el verano de 1914 Phi Beta Sigma había crecido desde los tres fundadores hasta más de 14 miembros en su Capítulo Alfa en la Universidad de Howard. La fraternidad, buscando ampliar su atractivo más allá de los estudiantes universitarios, también inició a un número de académicos en ascenso en la comunidad negra, incluyendo al Dr. Edward P. Davis, al Dr. Thomas W. Turner y al Dr. Alain Leroy Locke, un graduado de la Universidad de Harvard en 1907, quien en 1908 ingresó a la Universidad de Oxford en Inglaterra como el primer afroamericano con una beca Rhodes.
La fraternidad creció rápidamente a través de la nación con capítulos desde Maryland hasta Texas para 1920. También para esa fecha, los miembros de Phi Beta Sigma Charles R. Taylor y A. Langston Taylor ayudaron a establecer la primera hermandad «hermana» de una fraternidad negra, la hermandad Zeta Phi Beta en el campus de la Universidad de Howard. Sigma y Zeta son la única organización de hermanos constituida entre los grupos negros de letras griegas.
Desde su fundación, la fraternidad creía que debía ser un vehículo para prestar servicios a la comunidad afroamericana. Los fundadores mostraron esa idea con el lema de la fraternidad, «Cultura de servicio y servicio a la humanidad». Uno de sus primeros programas, la iniciativa Bigger and Better Negro Business, comenzó en la convención nacional de Sigma en Filadelfia en 1924. La fraternidad permitió a más de cincuenta empresas negras exponer en la convención para ayudarles a establecer un mercado nacional para sus productos. Hoy en día, la iniciativa se promueve a través del Proyecto S.E.E.D. (Sigma Economic Empowerment Development), que sigue defendiendo los negocios afroamericanos, pero que también ofrece clases de educación financiera y promueve la propiedad de la vivienda.
El Programa de Educación Sigma ofrece servicios y asistencia a los graduados y estudiantes universitarios, recauda fondos para becas y patrocina conferencias, ferias universitarias y programas de tutoría en todo el país. El Programa de Bienestar Sigma se centra en estilos de vida saludables a través de la educación. El Proyecto Voto sigue inscribiendo a los votantes, mientras que la Cumbre del Capitolio de Phi Beta Sigma permite a los miembros de la fraternidad debatir cuestiones críticas con los congresistas estadounidenses. En 2001, la fraternidad inauguró el Museo de la Historia de Sigma, una exposición itinerante que se centra en la historia de Sigma y su impacto en la nación.
Entre los Sigmas prominentes se encuentran Kwame Nkrumah, el primer Primer Ministro de Ghana, Nnamdi Azikiwe, el primer Presidente de Nigeria, el científico George Washington Carver, James Weldon Johnson, líder de los derechos civiles y compositor de «Lift Every Voice and Sing» (el Himno Nacional Negro), el Dr. Rod Paige, ex secretario de Educación del gobierno de George W. Bush, John Lewis, congresista estadounidense, Huey P. Newton, fundador del Partido de las Panteras Negras, y Jerry Rice y Emmett Smith, estrellas de la Liga Nacional de Fútbol.