Джеймс Ерл Джонс народився 17 січня1931 року в Аркабулті, штат Міссісіпі. Батько Роберт Ерл Джонс актор, який залишив сім'ю незабаром після народження Джеймса, мати Рут Конноллі, вчитель і покоївки. Джонса виховували його бабуся Меггі Конноллі і дідусь Джон Генрі, які були фермерами. З п'яти років він страждав від сильного заїкання, через що до восьми років майже не розмовляв. Один з учителів коледжу, де навчався Джонс, виявив у хлопчика поетичні здібності і змусив його щодня читати вірші перед однокласниками. Такий метод надав Джеймсу впевненості в собі, і через деякий час він вже виступав публічно, а незабаром став відвідувати заняття з акторської майстерності. Драматичне мистецтво вивчав в Мічиганському університеті і в театрі «American Theatre Wing» у Нью-Йорку