Holley se graduó de la secundaria de su ciudad natal en 1938. Realizó sus estudios en Química en el campus de la Universidad de Illinois at Urbana-Champaign, graduándose en 1942 y comenzando sus estudios de doctorado en Química Orgánica en la Universidad de Cornell. Durante la Segunda Guerra Mundial, Holley pasó dos años trabajando bajo la supervisión del profesor Vincent du Vigneaud en la Unidad Médica de la Universidad de Cornell, donde fue partícipe de la primera síntesis química de la penicilina. Completó sus estudios de doctorado en 1947.
En 1968 Holley se convirtió en profesor residente del Instituto Salk por Estudios Biológicos en La Jolla (California).