John Wheeler est diplômé de l'Université du Pacifique à Stockton, Californie, avec une licence en musique. Chanteur et acteur de caractère surtout connu pour ses apparitions télévisées, il a joué dans des épisodes de The Odd Couple, Green Acres, The Brady Bunch et Star Trek (dans le rôle du Tellarite Gav dans l'épisode « Journey To Babel »). Wheeler a chanté avec le City Center Opera à New York et a participé à Carousel de Rodgers & Hammerstein et à Wonderful Town de Bernstein, Comden et Green lors de l'Exposition universelle de Bruxelles en 1958, reprenant son rôle dans la première télévisée de cette dernière œuvre la même année. À Broadway, il est apparu dans The Happiest Girl in the World, Kean, Cafe Crown, I Had a Ball et Sweet Charity (dans le rôle d'« Herman », le propriétaire de la salle de danse, un rôle qui est allé à Stubby Kaye dans l'adaptation cinématographique ; Wheeler a joué un rôle plus petit dans le film). Il est resté actif jusque dans les années 1990.
