John Randall studeerde af aan de LSU en de Tulane University Law School en ging met pensioen als advocaat voor de staat Louisiana. Hij was lid van de Louisiana State Bar Association en diaken bij de St. Charles Avenue Baptist Church in New Orleans. Tijdens de Tweede Wereldoorlog diende hij als kapitein in de 88ste 'Blue Devils' Divisie in Italië. Voor zijn dienst in het leger had hij ook in de koopvaardij gevaren.