Родился в семье армейского офицера, небогатого помещика. Получил образование в кадетском корпусе (1801—14) в Петербурге, выпущен прапорщиком в артиллерию и направлен в армию, находившуюся в заграничном походе. Пребывание в Германии, в Швейцарии и особенно во Франции не прошло бесследно для молодого офицера.

Победа над Наполеоном побуждает его взяться за перо, появляются оды: «Любовь к Отчизне» (1813), «Князю Смоленскому» (1814).

С 1817, переведенный в Россию, Рылеев служит в Воронежской губернии. Как и другие передовые офицеры, он тяготился аракчеевскими порядками в армии, поэтому в 1818 уходит в отставку и переезжает в; Петербург (1820).

В 1821—24 Рылеев служил заседателем уголовной палаты, в 1824 поступил в Российско-американскую компанию правителем канцелярии.

В Петербурге сближается со столичными литераторами, становится членом «Вольного общества любителей российской словесности». Особое место в творчестве поэта занимает поэтический цикл «Думы» (1821—23), целью которых было «напоминать юношеству о подвигах предков, знакомить его со светлейшими эпохами народной истории...».

В 1825 пишет поэму «Войнаровский», содержащую пропаганду политических идей декабристов; в ней выражено кредо Рылеева: «Я не поэт, а гражданин». В этом же году им написана историческая поэма «Наливайко», политическая элегия «Гражданин».

В 1823 был принят в члены Северного тайного общества, вскоре став одним из его руководителей. В дни перед восстанием проявил исключительную энергию, став душой предстоящего переворота, настаивал на необходимости решительных действий.

Арестованный и заключенный в Петропавловскую крепость, Рылеев в письме к царю взял всю вину на себя, стремясь спасти товарищей.

Казнён 13(25) июля 1826 в Петербурге.