В 1830—1840 г. г. на Корабельной стороне Севастополя строились новые адмиралтейские верфи, была срыта целая гора. Несколько миллионов кубических метров добытой при этом земли и дробленого камня нужно было куда-то вывозить.
Огромным массам грунта нашли хорошее применение — ими засыпали болота и соляные озера, находившиеся в устье Южной бухты. Еще во времена древних греков там добывали соль, а Севастополю эти рассадники комаров и малярии мешали развиваться, затрудняя сухой путь из центра города на Корабельную сторону.
Отвоеванная у природы площадь получила название Пересыпь. Расширение Пересыпи продолжалось до середины XX века. Позже на этом низинном месте и возвели вокзал.
В XIX веке Севастополь становится главной базой Черноморского флота. Была необходимость в создании железнодорожной связи с центром страны. Правительством было принято решение о продолжении существующей на то время железной дороги «Москва — Лозовая» до Севастополя и открыто финансирование этого проекта.
Дорога строилась в тяжелейших условиях, особенно на горном участке, где пришлось возводить мосты и пробивать туннели. Однако уже 15 сентября 1875 года в Севастополь прибыл первый товарный состав, а еще через несколько дней — открылось движение пассажирских поездов.
Природные катаклизмы и войны разрушали вокзал дважды. Первый раз — в 1927 году, когда в результате Крымского землетрясения он был сильно поврежден, второй — в годы Великой Отечественной войны.
После войны, при восстановлении вокзала по проекту зодчего В. П. Богоявленского, его первоначальный архитектурный облик был несколько изменен — появились башенки со шпилями и т. д.
В 2001 году впервые за послевоенные годы была проведена генеральная реконструкция здания вокзала, перронов и прилегающей территории.