Алексей Жемчужников родился 22 февраля 1821 года в селе Почел Черниговская область, Украина. Рос в старинной дворянской семье. Получил прекрасное домашнее образование. Учился в 1-й Петербургской гимназии, затем перевелся в Петербургское училище правоведения, которое окончил в 1841 году, обретя здесь «уважение к справедливости, законности, знаниям и просвещению».
Затем Жемчужников служил в Сенате, потом - в Министерстве юстиции, в Государственной канцелярии, выполняя «утомительные чиновничьи обязанности». Вел светский образ жизни, посещал литературные салоны Петербурга. Вращаясь в литературных кругах, Алексей Михайлович познакомился с Ф.Достоевским, М.Салтыковым-Щедриным, А.Плещеевым и другими.
В 1850 году он дебютировал в журнале «Современник» комедией «Странная ночь», затем опубликовал здесь же комедию «Сумасшедший».
В 1850-1860 годах Жемчужников вместе с братьями Владимиром и Александром и двоюродным братом Алексеем Толстым участвует в создании сатирических стихов и легендарного образа Козьмы Пруткова - придуманного ими сочинителя, от имени которого они писали свои совместные сатирические произведения.
В 1858 году Жемчужников вышел в отставку, пренебрегая перспективой блестящей карьеры, женился и начал новую «полную свободы частную жизнь». Некоторое время он провел за границей. Продолжительная и тяжелая болезнь жены, закончившаяся смертью, оторвала его от литературных занятий.
Только с 1875 года имя Жемчужникова снова появляется в печати. В 1892 году выходит сборник «Стихотворения», имевший шумный успех. В 1900 году он публикует сборник «Песни старости». В этот год ему было присвоено звание почетного академика Петербургской Академии наук.
В гражданской лирике Жемчужникова, в его сатирических стихотворениях отразился его общественный идеал - просвещенное демократическое общество, уважающее свободу личности, независимость мысли.
Алексей Михайлович Жемчужников скончался 7 апреля 1908 года в городе Тамбов, был похоронен в Москве.