James Mill nasceu em Northwater Bridge, na paróquia de Logie-Pert, Forfarshire, Escócia, filho de James Mill, um sapateiro. Sua mãe, Isabel Fenton, de uma boa família que sofrera por ter estado ligada com o Levante Jacobita) resolveu que o seu filho deveria receber uma educação primorosa e enviou-o inicialmente para a escola da paróquia e depois para a Montrose Academy, onde ele permaneceu até à idade de 17 anos e meio. Ele entrou então para a Universidade de Edimburgo, onde se distinguiu na literatura clássica (Grego).
Em Outubro de 1798 licenciou-se, tornando-se um pastor presbiteriano, mas teve pouco sucesso. Entre 1790 e 1802, para além de ter sido tutor de várias crianças, ele ocupou-se com o estudo de história e filosofia.
Chegada a Londres
Com as limitadas perspectivas de uma carreira na Escócia, em 1802 ele foi para Londres na companhia de Sir John Stuart, então membro do parlamento (único para Escócia e Inglaterra) pela região de Kincardineshire, e devotou-se ao trabalho literário. Entre 1803 e 1806 ele foi editor de um periódico ambicioso intitulado "Literary Journal", que tinha por objectivo oferecer uma vista panorâmica de todos os principais campos de conhecimento humano.
Durante este tempo ele também editou a St James's Chronicle, pertencente ao mesmo titular. Em 1804, ele escreveu um panfleto sobre o milho comércio, argumentando contra um subsídio sobre a exportação de grãos. Em 1805 ele publicou uma tradução (com notas e citações) do FC Villers do trabalho sobre a Reforma, uma implacável exposição dos alegados vícios do sistema papal. Em 1805 casou com Harriet Burrow, cuja mãe, uma viúva, manteve um estabelecimento para lunáticos em Hoxton. Em seguida, ele tomou uma casa em Pentonville, onde seu filho mais velho, John Stuart Mill nasceu, em 1806. Ainda no final deste ano ele começou a sua História da Índia, que ele levou doze anos para concluir, em vez de três ou quatro, como se tinha esperado.