Nace en Oklahoma, Estados Unidos, siendo simbolo del movimiento hippie de los 70’s, ya que logró incursionar en diversos estilos incluyendo rockabilly, del country y del jazz.
Su nombre real, John Weldon Cale, fue muchas veces confundido con Jean-Jacques Cale. Además, Cale se caracterizó por su rechazo al estrellato, también evitaba las giras largas, y a las grabaciones periódicas. Fue sin dudas para muchos un musico de culto y relativamente desconocido para el público durante los últimos 35 años.
El 26 de julio de 2013, J.J. Cale fallece por un ataque al corazón fulminante.