Рано начал писать стихи, но не печатал их. После его смерти дочь издала «Сочинения» Капниста (М., 1901), в которые вошли стихотворения, драматические произведения, публицистические и критические статьи. Для юношеских поэтических сочинений Капниста (включены в 1-й отдел — «Утренняя заря») характерны пейзажная лирика, стихотворения «на случай», «в альбом», на традиционные «светские» темы («Кокетка», «Гусар»), главное достоинство которых в том, что они «чисты и искренни». Однако постепенно происходящая у Капниста смена настроений выдвигает в центр его поэзии размышления о «земном жребии человека», «небытии», «забвеньи». Капнист отстаивает концепцию одухотворенности мира, в котором человеческая душа прикосновенна «святой тайне бытия» («Есть в жизни нечто выше жизни…»). Чем более в лирике Капниста продолжает нарастать ощущение мимолетности человеческих чувств, тленности жизни, подчиненных неведомым чуждым человеку силам («Над нами ночь, и до рассвета…»), тем настойчивее звучит излюбленный Капнистом мотив духовности, торжествующей над небытием («Забвенья нет, пока живу я жизнью духа…»).

Духовные идеи Капниста концентрированно выражены в незавершенной поэме «Голоса любви», построенной как спор мировых стихий и Люцифера, носителя вселенского зла, стремящегося уничтожить любовь, без которой, как сказано в прозаической вставке, «религия станет — индифферентизм. Наука — материализм. Государство — социализм».

Капнист выступает против нигилизма и космополитизма. В статьях «Музыкальный материализм» (1869) и др. он резко критикует роман «Дым» И. С. Тургенева за антидворянскую направленность; статья «Мольер на русской сцене» (1868) направлена против Д. И. Писарева, нигилистов, Н. А. Некрасова. В некрологе французскому легитимисту П. А. Беррье Капнист проводит свою излюбленную мысль о том, что «существуют эпохи, когда гораздо труднее быть другом охранительных начал, чем ревностным сторонником революционных тенденций и агитаций».