Nikkeijin (américano-japonais de première génération), Shimada émigre aux États-Unis au début des années 1930 pour suivre les traces de son idole Sessue Hayakawa et commence à jouer au théâtre avant de trouver une carrière régulière en jouant des rôles de soutien dans des films hollywoodiens. Après avoir été interné pendant la Seconde Guerre mondiale, Shimada trouve une résurgence de carrière avec Humphrey Bogart dans le film Tokyo Joe de 1949.
Teru Shimada apparait par la suite dans de nombreux films et séries télévisées au cours des années 1950 et 1960. Il apparait également dans un épisode ("And Five of Us are Left") de la série télévisée américaine des années 1960 Voyage au fond des mers en 1965. Cette année-là, il fait également une apparition dans Perry Mason en tant que Dr Maseo Tachikawa dans « The Case of the Baffling Bug » et comme Ito Kumagi dans l'épisode de 1962 « The Case of the Capricious Corpse ». En 1970, il tient un rôle de premier plan dans un épisode de Hawaii Five-O ("The Reunion"). Son rôle le plus connu est sans doute venu en 1967, lorsqu'il a été choisi pour jouer le rôle de M. Osato, un agent de SPECTRE dans le film de James Bond de 1967, On ne vit que deux fois (You Only Live Twice).
Shimada ne s'est jamais marié (sur le projet de carte qu'il a reçu en 1940, il a cité Anna Snyder comme « plus proche parent »). Il est devenu citoyen américain en 1954 et a commencé à bénéficier de la sécurité sociale en 1970.
Carrière
On ne vit que deux fois
C'est à cette époque, au début de 1967, que Shimada obtient le rôle pour lequel il sera le plus connu, celui de M. Osato dans le film de James BondOn ne vit que deux fois (You Only Live Twice). M. Osato, un homme d'affaires japonais riche et respecté, dirige Osato Chemicals, une société de chimie et d'ingénierie qui est en fait une façade pour le syndicat international du crime SPECTRE.
Quand Bond (Sean Connery) vient le voir, le suave Osato l'avertit poliment : « Vous devriez arrêter de fumer. Les cigarettes sont très mauvaises pour votre poitrine ». M. Osato souhaite bonne chance à Bond alors qu'il quitte son bureau, puis attend quelques secondes, se tourne vers sa « secrétaire confidentielle » Helga Brandt (Karin Dor) et prononce la commande glaciale succincte : « Tuez-le ! ».
Shimada joue le rôle avec goût et reçoit une attention médiatique positive. Le tournage a notamment eu lieu au Japon et Shimada retourne dans son pays natal pour la première fois en près de 50 ans. Fuji TV a filmé un programme enregistrant la visite de Shimada dans sa maison d'enfance à Mito.