A cidade localiza-se junto à Baía de Hilo, e fica perto de duas importantes montanhas: Mauna Loa, um vulcão activo, e Mauna Kea, onde estão localizados diversos observatórios astronómicos. Hilo é a cidade mais a sul dos Estados Unidos.
Originalmente, o nome "Hilo" aplicava-se a um distrito que abrangia grande parte da costa leste da ilha do Havaí , agora dividida no distrito de South Hilo e no distrito de North Hilo. Quando William Ellis visitou em 1823, o principal assentamento no distrito de Hilo era o Waiākea, na margem sul da baía de Hilo . Os missionários chegaram ao distrito no início do século XIX, fundando a Igreja Haili , na área moderna de Hilo.