Harald Nielsen commence le football dans sa ville natale au Frederikshavn fI(en), en mars 1959 il joue pour l'équipe première qui évolue en deuxième division danoise. Au poste d'avant-centre, il termine la saison comme meilleur buteur de la deuxième division et contribue à la promotion du club en première division. La première journée de la saison 1960, il marque les trois buts de son équipe lors de la victoire 3 à 1 contre BK Frem Copenhague. Le club termine en fin de saison à la 5e place et Harald Nielsen est de nouveau le meilleur buteur du championnat. Ces performances attirent les clubs étrangers, il signe en 1961 pour le club italien de Bologne.
En Italie
Lors de sa première saison avec le FC Bologne, il ne dispute que 16 matchs mais marque huit buts. La saison suivante il est plus utilisé, il dispute 29 matchs et marque 19 buts. Lors de cette saison 1962-1963 il sera meilleur buteur en compagnie de l'Argentin Pedro Manfredini de l'AS Rome. La saison suivante il sera de nouveau le meilleur buteur avec 21 buts en 31 parties. Il remporte également le titre de champion d'Italie en battant l'Inter Milan lors d'un match d'appui, les deux équipes étaient à égalité de point en fin de saison, Harald Nielsen marquera le deuxième but de la rencontre (score final 2-0)[2]. Le titre de 1963-1964 reste à ce jour le seul pour le FC Bologne, dans les saisons suivantes le club se contentera d'une deuxième place en 1965-1966 et d'une troisième place en 1966-1967. Nielsen n'aura plus la même efficacité avec Bologne, il sera néanmoins convoité en 1967 par l'Inter Milan, la somme du transfert est à cette époque un record en Serie A.
À l'Inter Milan, Harald Nielsen ne retrouvera pas non plus son efficacité d'antan, même s'il marque l'unique but de la Coupe du monde des clubs (à cette époque la compétition est encore inofficielle) contre le FC Santos de Pelé. Sans beaucoup de temps de jeu sous la direction de Helenio Herrera, il rejoint le SSC Naples en 1968. Il reste une saison à Naples, où il ne dispute que 10 matchs. La saison suivante il tente sa chance à la Sampdoria où il ne dispute que quatre matchs, en fin de saison il met un terme à sa carrière de joueur à l'âge de 29 ans.
En équipe nationale
Harald Nielsen endossera quatorze fois le maillot de l'équipe du Danemark entre 1959 et 1960. Il mènera le Danemark en finale des Jeux olympiques d'été de 1960, il participe aux cinq rencontres et marquera six buts devenant le meilleur buteur du tournoi.
En partant jouer en Italie, il se ferme les portes de l'équipe nationale car à cette époque les joueurs évoluant à l'étranger n'étaient pas qualifiés pour représenter le Danemark.
Harald Nielsen possède l'un des meilleurs ratios buts/sélections en équipe du Danemark avec 15 buts en 14 matches[3].
Reconversion
Après sa carrière de joueur il fonde avec sa femme Rudi Hansen, une actrice de cinéma, une société d'import de cuir italien pour la Scandinavie.
Il est cofondateur et président du club FC København A/S qui est à l'origine du Football Club Copenhague[4].
Pendant sa période de footballeur Harald Nielsen écrit six livres et enregistre un disque[5].
Harald Nielsen meurt à l'age de 73 ans à Bologne, il est enterré au Danemark à Gentofte.
Guld Harald est un prix portant son nom et récompensé par une statuette en or à son effigie qui est décerné depuis 2018 au Danemark[6].
En 2019, les médailles gagnés par Harald Nielsen, exposés dans l'Arena Nord de Frederikshavn sont volés[7].