En 1908, Foster faisait partie l'équipe britannique du relais 4 × 200 m nage libre champion olympique. Il terminait encore quatrième sur 400 m nage libre et était éliminé en demi-finales du 1 500 m nage libre.
Quatre ans plus tard, il était encore médaillé de bronze en relais 4 × 200 m et éliminé demi-finales du 400 m nage libre du 1 500 m nage libre.