Родился 2 февраля (14 н.с.) в имении Приятная Долина Екатеринославской губернии в офицерской семье. Мать Гаршина, «типичная шестидесятница», интересовавшаяся литературой и политикой, свободно владевшая немецким и французским языком, оказала огромное влияние на сына. Воспитателем Гаршина был и П.Завадовский, деятель революционного движения 1960-х. К нему впоследствии уйдет мать Гаршина и будет сопровождать его в ссылку. Эта семейная драма отразилась на здоровье и мироощущении Гаршина.

Учился в гимназии (1864–1874), где начал писать, подражая то «Илиаде», то «Запискам охотника» И.Тургенева. В эти годы увлекался естественными науками, чему способствовала дружба с А.Гердом, талантливым педагогом и популяризатором естествознания. По его совету Гаршин поступает в Горный институт, однако с интересом слушал только лекции Д. Менделеева.

В 1876 начал печататься — очерк «Подлинная история Энского земского собрания» написан в сатирическом духе. Сблизившись с молодыми художниками-передвижниками, написал ряд статей о живописи, представленной на художественных выставках. С началом русско-турецкой войны Гаршин отправляется добровольцем в действующую армию, участвует в болгарском походе, впечатления от которого легли в основу рассказов «Четыре дня» (1877), «Очень коротенький роман» (1878), «Трус» (1879) и др. В бою при Аясларе был ранен, лечился в госпитале, затем был отправлен домой. Получив годовой отпуск, Гаршин едет в Петербург с намерением заняться литературной деятельностью. Через полгода был произведен в офицеры, по окончании войны уволен в запас (1878).

В сентябре становится вольнослушателем историко-филологического факультета Петербургского университета.

В 1879 были написаны рассказы «Встреча» и «Художники», ставящие проблему выбора пути для интеллигенции (путь обогащения или полный лишений путь служения народу).

«Революционный» террор конца 1870-х Гаршин не принимал, события, связанные с этим, воспринимал очень остро. Ему становилось все очевиднее несостоятельность народнических методов революционной борьбы. В рассказе «Ночь» было выражено трагическое мироощущение этого поколения.

В начале 1870-х Гаршин заболел психическим расстройством. В 1880 после неудачной попытки вступиться за революционера Млодецкого и последовавшей казнью, которая потрясла писателя, его болезнь обостряется, и около двух лет он находился в психиатрической лечебнице. Только в мае 1882 возвращается в Петербург, восстановив душевное равновесие. Публикует очерк «Петербургские письма», содержащий глубокие размышления о Петербурге как «духовной родине» русской интеллигенции. Поступает на гражданскую службу. В 1883 женится на Н.Золотиловой, работавшей врачом. Считает этот период самым счастливым в жизни. Пишет лучший свой рассказ «Красный цветок». Но в 1887 наступает очередная тяжелая депрессия: он вынужден оставить службу, начались семейные ссоры между женой и матерью — все это привело к трагическому исходу. Гаршин покончил собой 5 апреля 1888. Похоронен в Петербурге.