После двух курсов Оршанского педтехникума в 1938 Шевцов поступил в Саратовское училище погранвойск, откуда в конце 1939 был досрочно выпущен в звании лейтенанта и направлен командиром взвода на советско-финскую войну. В 1940—41 — начальник погранзаставы сперва на финской, затем на румынской границах.

22 июня 1941 79-й погранотряд под командованием Шевцов принял бой на восточном берегу Днестра, где держал оборону в течение 9 дней. Осенью 1941 во время отступления до Тулы командовал взводом (затем ротой) разведки 34-го погранполка, одновременно сотрудничая в дивизионной газеты. 5-й армии Западного фронта. В 1942 командовал отрядом ОМСБОН, занимавшимся диверсионной работой в тылу врага; был ранен. В том же году вступил в КПСС. В госпитале после знакомства с поэтическими опытами И. Г. Эренбурга и А. А. Суркова Шевцов написал критическую статью «О литературном современнике: Мысли читателя», где охарактеризовал прочитанные стихи как упаднические и оторванные от реальной жизни; статья Шевцова была опубликована А. А. Фадеевым в газете «Литература и искусство» в 1943.

Спецкорреспондент журнала «Пограничник» (1944—46; участвовал в войне с Японией), газеты «Красная звезда» (1946—52).

В 1952 Шевцов окончил Литературный институт им. М.Горького.

В 1952—54 был собственным корреспондентом газеты «Известия» в Болгарии (решение об этом назначении было подписано лично Сталиным); репортажи Шевцова из Болгарии печатались также в журналах «Огонек», «Новое время», «Октябрь», «Нева», «Советский воин», газетах «Литература и жизнь», «Литературная газета»; частично они вошли в сборник Шевцова «Юность Болгарии» (М., 1954). С 1954 Шевцов работал в газете «Советский флот». Всего в 1940—50-е Шевцов опубликовал свыше 500 очерков, фельетонов, статей.

В 1957 Шевцов встретился в Алуште с С. Н. Сергеевым-Ценским (которого, наряду с А. Г. Первенцевым, считал своим литературным учителем); знакомство переросло в дружбу. Сближение во многом было обусловлено общностью взглядов, в частности, отношением к XX съезду КПСС, после которого «ревизионисты начали выползать изо всех щелей, где они прятались до поры до времени» (здесь и далее необозначенные цитаты принадлежат самому Шевцову). После кончины Сергеева-Ценского в 1958 Шевцов вошел в комиссию по его литературному наследию (с 1989 — председатель), написал о нем книгу «Подвиг богатыря» (Тамбов, 1960; 2-м изд. вышла под названием «Орел смотрит на солнце», М., 1963).

После демобилизации в чине полковника в 1957 Шевцов был назначен заместителем главного редактора журнала «Москва»; к этому времени укрепились дружеские связи Шевцова со столичной патриотически настроенной интеллигенцией: художниками А. М. Герасимовым, А. И. Лактионовым, П. Д. Кориным, П. Ф. Судаковым, П. П. Соколовым-Скаля, скульпторами Е. В. Вучетичем, Б. А. Едуновым, зодчим Д. Н. Чечулиным, математиком И. М. Виноградовым, писателями Л. М. Леоновым, В. А. Кочетовым, Е. А. Пермитиным и др. Частично круг знакомств Шевцова нашел отражение в сборнике очерков «Сильные люди» (М., 1958) и монографии «Евгений Вучетич» (М.,1960), а также в мемуарной прозе 1990—2000-х.

С конца 1950-х Шевцов всецело посвящает себя художественной прозе. Сборник рассказов «Старые знакомые», повесть «На краю света» (М., 1960), первые части тетралогии «Русская рапсодия» — романы «Свет не без добрых людей» (М., 1962); «Семя грядущего» (М., 1964) и «Среди долины ровныя...» (М., 1965) — были тепло встречены читателями. Известность принес Шевцову роман-памфлет «Тля» (М., 1964), выход в свет которого «произвел в советском обществе эффект взорвавшейся атомной бомбы». Роман ждал публикации почти полтора десятилетия. Еще во второй половине 1940-х Шевцов сблизился с художественной студией погранвойск и со студией военных художников им. М. Б. Грекова; в 1949 в «Красной звезде» появилась статья Шевцова «Против антипатриотов в батальной живописи» (совместно с руководителями обеих студий Н.Жуковым и Х.Ушениным); данная статья явилась идеологической основой «Тли». Шевцов вначале задумывал роман о любви молодого столичного художника и сельской девушки, однако по мере работы в сюжете «Тли» начала преобладать идеологическая составляющая: противостояние сторонников реалистического искусства и искусстововедов-»космополитов», стоящих на позициях формализма. Зависимый по построению от одного из эталонов прозы того времени — романа Ю.Трифонова «Студенты», роман Шевцов был завершен еще в конце 1952, однако в силу общественно-политических обстоятельств смог быть опубликован только в 1964. Сразу же после посещения Н. С. Хрущевым выставки в Манеже, где он подверг художников-формалистов строгой критике, роман Шевцов был немедленно издан вне плана стотысячным тиражом. Вскоре по выходе «роман-памфлет» подвергся критике со стороны зарубежных радиостанций («Голос Израиля», «Голос Америки», «Би-би-си»), трактовавших «Тлю» как «впервые созданный при советской власти откровенно антисемитский роман». Несмотря на то что еврейская тема в «Тле» вообще не затрагивалась, а среди положительных героев выведен скульптор Яков Канцель, за свою приверженность реализму трагически погибающий от наезда неустановленной машины, сам Шевцов позднее не считал нужным скрывать этническую подоплеку противостояния и признавался: «Острые споры и дискуссии проходили на фоне развернувшейся в конце 1940-х борьбы с космополитами, т.е. сионистами, что не могло не найти своего отражения в романе «Тля». Я видел и знал поименно космополитов, и как прототипы они легко ложились в ткань повествования». Большинство выведенных в «Тле» персонажей, как положительных, так и отрицательных, были узнаваемы — так, в образе Льва Барселонского был выведен Эренбург, Осип Давидович Иванов-Петренко вобрал в себя черты О. М. Бескина и А. В. Федорова-Давыдова, Михаил Герасимович Камышев являет собой изображение А. М. Герасимова.

Увидевший свет сразу же после снятия Хрущева Октябрьским пленумом ЦК КПСС 1964, роман Шевцов встретил крайне негативное отношение либеральной интеллигенции — по словам Шевцова «каждая шавка стремилась отметиться на верность Сиону». В советской критике (за несколько месяцев было опубликовано около двух десятков рецензий) Шевцов был обвинен в клевете на советскую действительность, в антихудожественности, в противопоставлении творческой интеллигенции народу с целью их поссорить, в недопустимом нарушении литературной этики: «Будучи явлением предосудительным и нечистым, пасквиль не является литературным жанром, «узаконенным» нормативной поэтикой. Всякие попытки создать литературный пасквиль встречают возражения советской общественности, как это было в случае с «романом-памфлетом» И.Шевцова «Тля» (Гришунин А. Л. Пасквиль // КЛЭ. 1968. Т.5. Стб.515). Исключение составил А. Д. Синявский, который особо выделил конспирологическую составляющую романа и подчеркнул его дихотомичность: «Уголовные типы, дельцы, прохвосты составляют в романе «Тля» мощную организацию, этакую всесильную мафию, гласно или негласно управляющую эстетической жизнью страны. Мало того, что они экономически преуспевают, строят роскошные дачи, пьют коньяк, тогда как реалисты бедствуют, влачат по преимуществу нищенское существование и занимают на жизнь деньги у благоденствующих эстетов. Последние проникли во все поры общества, добились высоких постов, влиятельного положения. Разорвать их сети трудно, почти невозможно... В этих условиях честные люди чувствуют себя прокаженными, пребывают в полнейшей изоляции, в тягостном одиночестве, они бессильны противостоять натиску формалистической банды». По мнению Синявского, феноменальность «Тли» и состоит в том, что содержание романа перетекло в реальную жизнь: «Знакомство с рецензиями на роман «Тля» наводит и на другого рода вопросы. Вот везде, точно сговорившись, все на одного напали. Не значит ли это, что «Тля» своей печальной судьбой косвенным образом вдруг подтверждает собственную версию — горестный рассказ об участи борца, которого теснят злые недруги, да еще безнаказанно издеваются? Не воскликнет ли обиженный автор, что он был прав, когда писал о гонениях на реалистическое искусство, и вот теперь все в жизни происходит почти что по роману — напрасно его обвинили в неправде и клевете» (Синявский А.Д. — С.228—233). Современными исследователями «Тля» рассматривается как «антиинтеллигентский, антисемитский и женоненавистнический роман» (Митрохин Н. — С.163).

Публичное заявление протеста советскому руководству члена ЦК Компартии Франции и Французской Академии Луи Арагона по поводу издания «Тли» еще более стимулировало самые разнообразные формы читательского успеха — по сведениям самого Шевцова, к нему и в издательство пришло около 1000 благодарственных писем, в то время как «книгу скупали и сжигали... В библиотеках дали негласную команду не выдавать читателям «Тлю», из писателя сделали изгоя, создав вокруг него живую блокаду».

Травля Шевцов либеральной интеллигенцией и официальными структурами (главный идеолог страны М. А. Суслов был одним из постоянных гонителей Шевцова) привела к тому, что за 5 лет Шевцов не смог опубликовать ни строчки даже в периодике; пост заместителя главного редактора «Москвы» ему также пришлось оставить. Ранее изданные книги позволили Шевцову обрести материальную независимость и в 1964 приобрести дом в пос.Семхоз. В течение 1960-х вокруг сложилось поселение близких ему по духу писателей — В.Фирсова, И.Кобзева, Г.Серебрякова, Ф.Чуева, В.Сорокина, И.Акулова, В.Чалмаева, С.Высоцкого, С.Поделкова и др., называемое ими «Радонежье» (по близости к Троице-Сергиевой лавре); недруги Шевцова называли этот массив «Антипеределкино».

Не занимавший после 1964 каких-либо должностей, Шевцов был одним из духовных лидеров т.н. русской партии — существовавшего с начала 1960-х неформального объединения лиц, имеющих общие взгляды на судьбы русской культуры; успеху Шевцова способствовало то, что «в отличие от своих скучных книг Шевцов очень живой и интересный человек» (С.Семанов. Цит. по: Митрохин Н. — С.384).

В 1970—90-х Шевцов был близок также к кружку, сложившегося вокруг издательства «Молодая гвардия».

После 5-летнего молчания Шевцова обрел голос: благодаря покровительству первого секретаря Московского ГК КПСС Н. Г. Егорычева в 1970 в издательстве «Московский рабочий» вышел в свет роман «Во имя отца и сына» — заключительная часть тетралогии «Русская рапсодия». Почти одновременно был издан роман Шевцова «Любовь и ненависть» (1970), первая часть которого, «На краю света», была опубликована десятилетием ранее. Дискуссия о новых романах Шевцова, начатая зарубежной прессой («Нью-Йорк тайме», «Интернэшнл геральд трибюн», «Унита» и др.), на этот раз не была сведена к единогласному осуждению Шевцова — право на выражение своего мнения получили и его апологеты; результатом дискуссии явилось увольнение ряда высокопоставленных партийных чиновников, отвечавших за идеологию (подробнее см.: Митрохин Н. — С.127—129). Позднее Шевцов опубликовал романы «Набат» (1975, 1978), «Бородинское поле» (1977, 1985), «Лесные дали» (1978).

Несмотря на то что заявление на прием в СП СССР Шевцов подал в 1962, он был принят в него лишь в 1979, будучи автором 14 книг, суммарный тираж которых превысил миллион экземпляров. Прием Шевцов был осуществлен лишь после вмешательства Политбюро ЦК КПСС, где мнения о его творчестве также разделились. Самым ярым противником Шевцова являлся М. А. Суслов, поклонниками таланта Шевцова были Д. С. Полянский, А. Н. Косыгин, К. Т. Мазуров, Г. И. Воронов, А. Н. Шелепин.

В 1988 Воениздат выпустил 3-томник избранных произведений Шевцова; в предисловии говорилось: «Знание среды, умение разобраться в сложнейших теоретических проблемах художественного творчества, острая партийная принципиальность послужили основой романов, посвященных вопросам идеологической борьбы, битве за души людей, книг, в которых писатель с партийных позиций разоблачает происки империалистических спецслужб и их агентуры, направленные на подрыв нашего общественного и государственного строя» (Леонтьев Н.). В 1990 издательством «Молодая гвардия» был издал новый роман Шевцова «Грабеж», соединявший в себе жанровые признаки обычного для Шевцова «романа нравов» и детектива.

События 1990-х пробудили творческую активность Шевцова — им созданы романы «Голубой бриллиант», «Остров дьявола» (продолжение «Набата»), «Крах», «Последний герой», «Что за горизонтом». Прозе Шевцова в еще большей степени стала свойственна публицистичность: «Эти романы написаны кровью сердца <...> Мы все политизированы, живя в оккупации». Прежние нормы политкорректности, обусловленные советской цензурой, были отброшены: о кознях «масонов и сионистов» положительные герои Шевцова говорят постоянно и обстоятельно, даже во время совершения полового акта. Впрочем, своих соплеменников автор также не идеализирует: «Народ сам виноват в том, что бедствует. Ни один папуас или негр не стерпел бы того насилия и позора, какой терпит наш молчаливый, одурманенный телевизором, нищий и голодный народ. Да и можно ли назвать его этим гордым словом? В лучшем случае это население — безвольное, утратившее национальное самосознание, гордость и честь. У него не хватает мужества к сопротивлению, к подъему во имя спасения себя и страны» (Край родной. 2001. №37). Надежду Шевцов возлагает не на народ, а на смену власти, на «правительство народного спасения, которое придет на смену преступному оккупационному режиму». Впрочем, Шевцов достаточно реалистичен: «У меня нет никаких иллюзий на будущее и скорые перемены к лучшему. Россия стоит над пропастью. Еще один последний толчок, и песня русских как этноса будет спета. Но как русский патриот я не могу жить, не веря в мой народ, в его неистощимые силы, в его великое историческое предначертание <...> И все же Россия выстоит, поднимется с колен, возродится! Я верю в это!» (Цит. по: Юдин В.)

Страницы прозы Шевцов 1960-х, где впервые были подняты темы наркомании, проституции, лесоистребления, трактовавшиеся в то время как «очернение действительности» и «вода на мельницу антисоветизма», сейчас воспринимаются по-иному: «Историзм мышления, безупречная фактологическая подоснова, острая, увлекательная интрига — важнейшие черты самобытной художественной манеры писателя» (В.Юдин). Часть современных критиков склонны видеть в творчестве Шевцов прежде всего профетическое начало. «Но ведь тля в конце концов съела Россию. Значит, Иван Михалыч — пророк!» (П.Алешкин).

«Шевцов большой мастер острого сюжета. Он умеет держать читателя в напряжении от первой до последней страницы. Особое место в его творчестве занимает природа, которую он видит глазами влюбленного художника, знает ее как натуралист и преклоняется перед ее величием и красотой. Природа в его книгах несет на себе и психологическую нагрузку, отражая состояние души героя» (Н.Леонтьев).

Одна из особенностей творческой манеры Шевцова — соотнесенность действующих лиц с реальными личностями. Так, образ главного героя тетралогии «Русская рапсодия» Емельяна Глебова носит черты самого Шевцов, в пишущих на него доносы поэтах Артуре Воздвиженском и Новелле Капорулиной читатели узнают Андрея Вознесенского и Беллу Ахмадулину. В одном из столпов московского аморализма клоуне Степане Михалеве были склонны видеть С. В. Михалкова, в злобном пенсионере Фенине и его зяте-карьеристе М.Инфантьеве легко угадывались Хрущев и А.Аджубей. Одного из своих главных недругов — журналиста «Известий» Гольцева Шевцов вывел под именем сотрудника «Новостей» Наума Гольцера — наркомана, сексуального извращенца и идеологического диверсанта, попутно ради получения наследства убившего родную мать ударом шила в сердце. Ретроспективное награждение ратных подвигов Л. И. Брежнева вызвало раздражение у фронтовика Шевцова, и глава государства был выведен в романе под именем впавшего в старческий маразм полковника Брусничкина, «главным достоинством которого были густые черные брови»; в неприглядном виде Мирона Серого был изображен также М. А. Суслов — недруг Шевцова.

Либеральная критика осознала бесперспективность уничижения Шевцов: «Творчество автора «Тли» полностью самодостаточно, поскольку пародии и постмодернистские изыски на материале его книг невозможны. При попытке изгалиться над стилем Шевцова получается тот же Шевцов» (Ю.Васильев).

Романы Шевцов имеют устойчивый читательский успех: на народные пожертвования издательство «Голос» в 1998—2000 опубликовало все написанные Шевцовым в 1990-е романы, а также переиздало «Тлю» с дополнением книги «Соколы» — воспоминаниями Шевцова о близких ему людях. В расширенном варианте мемуарная проза Шевцова была собрана в книге «В борьбе с дьяволом» (М., 2003). В целом творчество Шевцова представляет собой одно из достижений русской конспирологической прозы — феномена, ожидающего своего исследователя.