Le groupe s’est formé à Dayton, Ohio, États-Unis, en 1959 sous le nom de Ohio Untouchables et comprenait initialement les membres Robert Ward (chant/guitare), Marshall « Rock » Jones (basse), Clarence « Satch » Satchell (saxophone/guitare), Cornelius Johnson (batterie) et Ralph « Pee Wee » Middlebrooks (trompette/trombone). Ils étaient surtout connus à l’époque comme groupe de soutien pour The Falcons.
Ward s’était révélé être un leader peu fiable, qui quittait parfois la scène pendant les concerts, obligeant le groupe à arrêter de jouer. Finalement, le groupe a juré de continuer à jouer même après son départ. Ward et Jones se sont battus à coups de poing en 1964, après quoi le groupe s’est séparé.
Ward a trouvé de nouveaux backups, et les membres principaux du groupe sont retournés à Dayton. Ils remplacent Ward par Leroy « Sugarfoot » Bonner (guitare), âgé de 21 ans, qui deviendra le frontman du groupe, et ajoutent Gregory Webster (batterie). Pour s’adapter aux préférences musicales de Bonner pour le groupe (« R&B avec un peu de flair ») et pour éviter de concurrencer Ward, le groupe change de format. En 1965, le groupe s’était rebaptisé les Ohio Players, reflétant l’auto-perception de ses membres en tant que musiciens et hommes à femmes.
Le groupe a ajouté deux autres chanteurs, Bobby Lee Fears et Dutch Robinson, et est devenu l’orchestre maison de la Compass Records basée à New York. En 1967, ils ajoutent la chanteuse Helena Ferguson Kilpatrick.
Le groupe se dissout à nouveau en 1970. Après s’être à nouveau reformé avec une formation comprenant Bonner, Satchell, Middlebrooks, Jones, Webster, le trompettiste Bruce Napier, le vocaliste Charles Dale Allen, le tromboniste Marvin Pierce et le claviériste Walter « Junie » Morrison, les Players obtiennent un succès mineur sur le label Westbound basé à Détroit avec « Pain » (1971), qui atteint le Top 40 du classement Billboard R&B. James Johnson a rejoint le groupe à cette époque en tant que chanteur et saxophoniste. Dale Allen a partagé la voix principale sur certains des premiers titres de Westbound, bien qu’il ne soit pas crédité sur leurs albums Pain et Pleasure. C’est chez Westbound Records que le groupe a rencontré George Clinton, qui admirait leur musique. Les couvertures avant-gardistes des deux albums présentaient un mannequin chauve Pat « Running Bear » Evans, vêtu d’un bikini en cuir noir à pointes, qui ornera plus tard d’autres albums des Ohio Players, notamment Climax, Ecstasy et Rattlesnake.
Le premier grand succès du groupe fut « Funky Worm », qui atteignit la première place du classement Billboard R&B et culmina à la 15e place du Hot 100 le 26 mai 1973. Il s’est vendu à plus d’un million d’exemplaires et a reçu un disque d’or de la R.I.A.A. en mai 1973. Le groupe a signé avec Mercury Records en 1974. A cette époque, leur composition avait encore changé, avec le claviériste Billy Beck à la place de Morrison et Jimmy « Diamond » Williams à la batterie à la place de Webster. Sur les albums suivants, ils ont ajouté le second guitariste/chanteur Clarence « Chet » Willis et le conguero Robert « Kuumba » Jones. Pendant ce temps, le claviériste Walter « Junie » Morrison enregistre trois albums en solo avant de rejoindre Funkadelic et d’être à l’origine du tube One Nation Under a Groove. Une histoire sur Internet avant un concert de juin 2017 a indiqué que Billy Beck, Jimmy « Diamond » Williams, Clarence « Chet » Willis et Robert « Rumba » Jones se produisent toujours.
Le groupe a eu sept succès au Top 40 entre 1973 et 1976. Il s’agit notamment de « Fire » (n° 1 au classement R&B et pop pendant deux semaines et une semaine respectivement en février 1975 et autre millionnaire de la vente) et de « Love Rollercoaster » (n° 1 au classement R&B et pop pendant une semaine en janvier 1976 ; autre récipiendaire du disque d’or). Le groupe a également engagé le saxophoniste James Johnson. Le dernier grand succès du groupe est « Who’d She Coo ? », numéro 1 au R&B en août 1976. C’est leur seul succès au Royaume-Uni, où il a atteint la 43e place du UK Singles Chart en juillet 1976. Leur titre « Ecstasy », tiré de l’album Ecstasy de 1973, a été samplé par Jay-Z sur « Brooklyn’s Finest », avec The Notorious B.I.G. de l’album Reasonable Doubt de 1996.
En 1979, trois membres du groupe ont formé Shadow, qui a sorti trois albums. Un Ohio Players reconfiguré a enregistré tout au long des années 1980, bénéficiant d’un hit single mineur avec « Sweat » (1988). Ils ont également sorti trois albums au cours de cette décennie, Tenderness, Ouch ! et Graduation. Un autre recueil, Orgasm, a suivi en 1993.
En août 2013, les Ohio Players ont été intronisés au Rhythm and Blues Hall of Fame à l’auditorium Waetjen de l’université d’État de Cleveland, dans le cadre de la classe inaugurale.