Née en 1845[2], elle est la fille de Charles J. Brown et Martha A. Runnels Brown. Elle suit une formation de chanteuse au Conservatoire de musique de la Nouvelle-Angleterre et obtient un diplôme en 1879. Sa sœur Edna Brown Bagnall est également chanteuse et la rejoint parfois lors de concerts[3],[4]. Leur frère Edward Everett Brown est avocat, par ailleurs militant anti-lynchage, installé à Boston[5].
Nellie Brown Mitchell devient une chanteuse populaire dans les églises de la Nouvelle-Angleterre. Durant un temps, elle est soprano principale de quatre églises blanches de Boston[6]. Elle donne des concerts dans toute la région de la Nouvelle-Angleterre et au-delà[7],[8]. En 1874, elle se produit au Steinway Hall de New York[1].
Dans les années 1880, elle part en tournée avec la Bergen Concert Company[9]. Elle crée également sa propre compagnie, la Nellie Brown Mitchell Concert Company. De 1879 à 1886, elle est directrice musicale de la Bloomfield Street Church à Boston[10]. Elle chante lors de la première réunion de la National Negro Business League(en), à Boston, en 1900[11],[12]. Elle chante aussi aux funérailles de l'abolitionniste William Lloyd Garrison en 1879 puis se produit comme soliste lors de la célébration du centenaire de sa naissance en 1905[13],[14].
Nellie Brown Mitchell dirige le département vocal de la Hedding Academy, dans le New Hampshire[15]. En 1876, elle prend la tête d'un groupe de 50 filles pour une cantate, Laila, the Fairy Queen, dans le cadre du Centennial Musical Festival à Boston[1]. Après avoir arrêté de se produire en tournées, elle enseigne les techniques vocales à des étudiantes afro-américaines à Boston. En 1909, elle organise et anime la première réunion du Chaminade Musical Club, pour « les principales musiciennes » de Boston, du nom de la compositrice française Cécile Chaminade[16].
Elle invente le « phoneterion », un appareil destiné à aider à entraîner les étudiants en chant à avoir une bonne position de leur langue[17],[18].
En juillet 2023, le Black Heritage Trail du New Hampshire inaugure une plaque à l'entrée du cimetière de Pine Hill à Dover, en hommage à Nellie Brown Mitchell[19]. Cet évènement entre dans le cadre d'une initative plus vaste, Mapping Untold Stories, afin de mettre en valeur l'histoire des Noirs du New Hampshire[20].