Il y enseigne à partir de 1950, devient professeur de composition (1959-1963) avant de diriger le Département de composition (1965-1970).
Parmi ses élèves les plus doués, on peut citer Aulis Sallinen, Paavo Heininen, Leif Segerstam, Henrik Otto Donner(en) et Pehr Henrik Nordgren.
De 1947 à 1963, il est aussi critique musical pour plusieurs revues et anime des émissions à la radio. En 1963, il abandonne son poste et devient membre de l'Académie de Finlande.
Il est l'auteur d'un Requiem (1981), dédié à sa femme Maija Kokkonen décédée en 1979, de plusieurs symphonies, d'un opéra Viimeiset kiusaukset (Les dernières tentations), de musique concertante et de musique de chambre.
Après Sibelius, il occupe une place majeure dans la musique finlandaise du XXe siècle. Il a été président de plusieurs associations musicales et a tenu à ce titre un rôle de premier plan pour le développement de l'éducation musicale dans son pays, s'attachant notamment à l'amélioration des conditions de travail de tous les jeunes artistes.
Influencé au départ par Sibelius, puis par Bartók, son style musical mêle néo-classicisme et sérialisme, restant en marge des courants avant-gardistes. Il a composé des œuvres très variées, allant de la musique symphonique, de la musique de chambre à l'opéra.
Alvar Aalto concevra la Villa Kokkonen, bâtie en 1969 à Järvenpää, qui lui servira d'habitation et d'atelier.
C'est à Järvenpää, où Kokkonen a passé la majeure partie de sa vie que le compositeur, souffrant de problèmes cardiaques, s'éteint le , quelques semaines avant son 75e anniversaire.