La banda se formó en Dayton, Ohio, Estados Unidos, en 1959 con el nombre de Ohio Untouchables e incluyó inicialmente a los miembros Robert Ward (voz/guitarra), Marshall «Rock» Jones (bajo), Clarence «Satch» Satchell (saxofón/guitarra), Cornelius Johnson (batería) y Ralph «Pee Wee» Middlebrooks (trompeta/trombón). En aquella época eran más conocidos como grupo de acompañamiento de The Falcons.
Ward había demostrado ser un líder poco fiable, que a veces abandonaba el escenario durante los conciertos, obligando al grupo a dejar de tocar. Finalmente, el grupo se comprometió a seguir tocando incluso después de su marcha. Ward y Jones tuvieron una pelea a puñetazos en 1964, tras la cual el grupo se separó.
Ward encontró nuevos refuerzos, y los miembros principales del grupo volvieron a Dayton. Sustituyeron a Ward por Leroy «Sugarfoot» Bonner (guitarra), de 21 años, que se convertiría en el líder del grupo, y añadieron a Gregory Webster (batería). Para adaptarse a las preferencias de estilo musical de Bonner para el grupo («R&B con un poco de estilo») y para evitar competir con Ward, el grupo cambió su formato. En 1965, el grupo se había rebautizado como los Ohio Players, reflejando la autopercepción de sus miembros como músicos y como hombres femeninos.
El grupo añadió dos cantantes más, Bobby Lee Fears y Dutch Robinson, y se convirtió en la banda de la casa para la empresa neoyorquina Compass Records. En 1967, añadieron a la vocalista Helena Ferguson Kilpatrick.
El grupo se disolvió de nuevo en 1970. Después de volver a formarse con una formación que incluía a Bonner, Satchell, Middlebrooks, Jones, Webster, el trompetista Bruce Napier, el vocalista Charles Dale Allen, el trombonista Marvin Pierce y el teclista Walter «Junie» Morrison, los Players tuvieron un éxito menor en el sello Westbound, con sede en Detroit, con «Pain» (1971), que alcanzó el Top 40 de la lista Billboard R&B. James Johnson se unió al grupo en esta época como vocalista y saxofonista. Dale Allen compartió la voz principal en algunos de los primeros materiales de Westbound, aunque no fue acreditado en sus álbumes Pain y Pleasure. Fue en Westbound Records donde el grupo conoció a George Clinton, que admiraba su música. Las portadas vanguardistas de los dos álbumes mostraban a una modelo calva, vestida de cuero negro con pinchos y en bikini, Pat «Running Bear» Evans, que más tarde adornaría otros álbumes de Ohio Players, como Climax, Ecstasy y Rattlesnake.
El primer sencillo de gran éxito de la banda fue «Funky Worm», que alcanzó el número 1 en la lista Billboard R&B y llegó al número 15 en el Hot 100 el 26 de mayo de 1973. Vendió más de un millón de copias y el R.I.A.A. le concedió un disco de oro en mayo de 1973. El grupo firmó con Mercury Records en 1974. Para entonces, su formación había cambiado de nuevo, con el teclista Billy Beck en lugar de Morrison y Jimmy «Diamond» Williams en la batería en lugar de Webster. En posteriores lanzamientos de discos, añadieron al segundo guitarrista/vocalista Clarence «Chet» Willis y al conguero Robert «Kuumba» Jones. Mientras tanto, el teclista Walter «Junie» Morrison grabó tres álbumes por su cuenta antes de unirse a Funkadelic como la fuerza detrás de su éxito One Nation Under a Groove. Una historia de Internet antes de un concierto de junio de 2017 indicó que Billy Beck, Jimmy «Diamond» Williams, Clarence «Chet» Willis y Robert «Rumba» Jones siguen actuando.
La banda tuvo siete éxitos en el Top 40 entre 1973 y 1976. Entre ellos se encuentran «Fire» (número 1 en la lista de R&B y de pop durante dos semanas y una semana respectivamente en febrero de 1975 y otro millón de ventas) y «Love Rollercoaster» (número 1 en la lista de R&B y de pop durante una semana en enero de 1976; otro receptor de un disco de oro). El grupo también contrató al saxofonista James Johnson. El último gran éxito del grupo fue «Who’d She Coo?», un número 1 en la R&B en agosto de 1976. Fue su único éxito en el Reino Unido, donde alcanzó el número 43 en la UK Singles Chart en julio de 1976. Su tema «Ecstasy» del álbum de 1973 Ecstasy fue sampleado por Jay-Z en «Brooklyn’s Finest», con The Notorious B.I.G. del álbum de 1996 Reasonable Doubt.
En 1979, tres miembros del grupo pasaron a formar Shadow, que publicó tres álbumes. Unos Ohio Players reconfigurados grabaron a lo largo de la década de 1980, disfrutando de un sencillo de éxito menor con «Sweat» (1988). También publicaron tres álbumes en esa década, Tenderness, Ouch! y Graduation. Otra colección, Orgasm, siguió en 1993.
En agosto de 2013, los Ohio Players fueron incluidos en el Salón de la Fama del Ritmo y el Blues en el Auditorio Waetjen de la Universidad Estatal de Cleveland como parte de la clase inaugural.