В 1949 был уволен из армии в звании лейтенанта контрразведки.
Литературная биография Богомолова началась в 1958, когда была напечатана первая повесть «Иван». Образ ее главного героя стал безусловным открытием в русской литературе 1960–70-х. Иван Буслов (ребенок, переставший быть ребенком, человек, который в свои 10–11 лет всецело принадлежит только войне) не был похож на уже известных читателю «сыновей полка». Богомолов входил в литературу отнюдь не как начинающий писатель. По строгому стилю, зрелому, реалистическому взгляду на жизнь читатели угадывали за строками повести руку настоящего мастера. А. А. Тарковский поставил по произведению Богомолова фильм «Иваново детство» (1962), получивший главный приз на Венецианском кинофестивале в 1963.
Вторая повесть Богомолова — «Зося» появилась в 1963. События в ней также разворачиваются на фоне военной действительности. Ее сюжет построен на контрастах. В ней сталкиваются две стороны жизни — любовь и смерть, мечта и суровая реальность. Это произведение (по замечанию самого Богомолова) о «несвершившемся» в судьбах молодых людей военного поколения. Повесть проникнута глубокой лиричностью и одновременно проста по стилю, сурова по тональности. Критики увидели в ней «вещь переходную», представляющую собой особую ступень в движении писателя к будущему роману. «Зося» также была экранизирована (реж. М.Богин, 1967).
Одновременно с повестью вышла в свет подборка рассказов-миниатюр: «Кладбище под Белостоком», «Второй сорт», «Кругом люди», «Сосед по палате», «Сердца моего боль». В них в наибольшей степени проявился характерный для стиля Богомолова лаконизм, умение в малой, но емкой форме поднимать проблемы самого широкого звучания. Им свойственны символичность, «притчевость», особое отношение к литературной детали. В этом смысле их ставят в один ряд со стих, в прозе И. С. Тургенева, короткими рассказами И.Бунина, А.Чехова, с одной стороны, а с другой — сопоставляют с некоторыми произведениями М.Пришвина, Е.Зозули, Ф.Абрамова, Ю.Бондарева, В.Солоухина.
Затем наступил период молчания, продлившийся около 10 лет. Лишь в 1974 Богомолов опубликовал новое произведение — роман «В августе сорок четвертого...» (второе название — «Момент истины»). Роман принес Богомолову огромную популярность; неоднократно переиздавался, вызывая неизменный читательский интерес. Он посвящен работе одного из подразделений русской контрразведки в годы Великой Отечественной войны. Напряженный сюжет дает возможность сравнивать его с произведениями приключенческого жанра. Однако наряду с детективной линией в романе есть более глубокий план. Во время работы над романом Богомолов изучил огромное количество фактического материала. Он стремился быть предельно точным во всем, начиная с изображения «мелочей» в профессиональной деятельности контрразведчиков и заканчивая раскрытием характеров. Увлекательность в романе сочетается с реалистичностью, а реалистические детали наполняются символическим звучанием (ключевая фраза: «момент истины» является термином, взятым из словаря сыщиков, она способна выразить как существо романа, так и главное в работе самого писателя — стремление к правде).
Роман оригинален по композиции. Наряду с частой сменой способов повествования, когда рассказ ведется от лица разных героев и события перед читателем предстают порой с противоположных точек зрения, в нем огромную роль играют служебные записки, сводки, которые с предельной точностью повторяют форму реальных документов времен войны. Они представляют собой особое средство воссоздания «достоверной» художественной действительности.
В 2000 реж. М. Н. Пташук снял фильм «В августе 44-го» по мотивам произведения Богомолова.
В 1990-е Богомолов работал над повестью «В кригере» об армейской жизни на Дальнем Востоке после Великой Отечественной войны и над романом «Жизнь моя, иль ты приснилась мне...».