Команда була створена 1992 року на базі резервного складу «Чорноморця», який виступав у змаганнях дублерів чемпіонату СРСР, і заявлена до першої ліги, з якої відразу вилетіла. 1995 року, після того як «Чорноморець-2» вилетів і з другої ліги, команду було розформовано, а 1999 року — відроджено на базі СК «Одеса».
Улітку 2004 року, після введення турніру дублюючих складів у вищій лізі, став аматорською командою і почав брати участь у міських змаганнях та у турнірі дублюючих складів. Його місце в другій лізі зайняла команда «Реал» (Одеса).
7 січня2012 року за рішенням керівництва та тренерів клубу «Чорноморець» команду «Чорноморець-2» було розформовано, так як зі спортивної точки зору її існування втратило сенс. До того часу основна команда вже півроку мала представника в молодіжному чемпіонаті. Частину гравців «Чорноморець-2» перевели до молодіжного складу клубу «Чорноморець», з деякими розірвав контракти за згодою обох сторін, а деяким футболістам надали можливість перейти в «Чорноморець-3», який виступає на першості міста. Тренери «Чорноморця-2» продовжили роботу в клубі на інших посадах.[1]
Влітку 2019 року, після вильоту основної команди з УПЛ, керівництвом клубу було прийнято рішення відновити другу команду. Проте через фінансові проблеми власника клубу Леоніда Клімова та пандемію коронавірусу у 2020 клуб може знову припинити своє існування.[2]