Cieszył się dotychczas dobrym zdrowiem i tężyzną fizyczną, lecz niespodziewanie zapadł na gruźlicę. W celu podjęcia kuracji wyjechał do Nicei, gdzie spędził dwa lata i 24 kwietnia 1865 zmarł (podaje się, że właśnie na gruźlicę lub na zapalenie opon mózgowo-rdzeniowych). Na miejscu domu, w którym żył w ostatnich dniach, rosyjscy emigranci wznieśli prawosławny sobór.
Po jego śmierci następstwo tronu przeszło w ręce jego młodszego brata, Aleksandra, który ożenił się również z jego narzeczoną.