Первый в мире дивизион броневых поездов, который вскоре после сформирования получил на вооружение реактивную артиллерию в виде пусковых установок для реактивных снарядов БМ-8-24, был сформирован в СССР 21 февраля 1942 года. Именно из-за этого дивизион получил в наименование прилагательное «особый». Дивизион бронепоездов прошел боевой путь от Волги до Одера, закончив его под Берлином.
В 31-й дивизион бронепоездов входили штаб дивизиона и подразделения: горьковский и муромский именные броневые поезда, «№1 - Козьма Минин» и «№2 - Илья Муромец». По конструкции бронепоезда №1 и 2 аналогичны - состояли из бронепаровоза, двух артиллерийских бронеплощадок и двух площадок ПВО, на каждой по две 76-мм зенитные пушки Лендера и 2 пусковых установки реактивных снарядов М-8.
Особенность бронепоездов дивизиона - использование реактивной артиллерии, отсюда прилагательное «Особый». В июле - августе 1943 года огнем зенитной артиллерии броневых поездов было сбито шесть самолетов авиации противника.
Отважно действовали в дни Курской битвы экипажи броневых поездов №659 - «Козьма Минин», №702 - «Илья Муромец», обеспечивая огневую поддержку наступающим войскам 61-й армии. В период боев за освобождение города Ковель 4 мая 1944 года, в ходе артиллерийской дуэли с закрытых огневых позиций, при применении «Ильи Муромца» полностью уничтожен броневой поезд немцев.
Дивизион 31 октября 1944 года был награжден орденом Александра Невского, получив полное наименование 31-й отдельный особый Горьковский ордена Александра Невского дивизион бронепоездов. В январе 1945 года в составе 1-й польской армии дивизион бронепоездов участвовал в освобождении Варшавы, части 6-й пехотной дивизии Войска Польского при артиллерийской поддержке 31-го особого отдельного дивизиона бронепоездов форсировали Вислу в районе Праги.
В боях за освобождение польской столицы дивизион выполнил 73 артиллерийско-минометных налета, в результате чего подавлено и уничтожено 12 артиллерийских и минометных батарей, 6 отдельных орудий и 12 пулеметов, не считая большого количества личного состава артиллерии и пехоты вермахта.
За мужество и героизм личного состава, проявленный в боях за освобождение Варшавы от немецких захватчиков, дивизион удостоен почетного наименования «Варшавский». На счету дивизиона броневых поездов уничтоженный немецкий бронепоезд, 42 артиллерийско-минометные батареи, 24 отдельных орудия, 14 дзотов, 94 пулеметные точки, 15 немецких самолетов.
На железнодорожной станции Чернь в Тульской области, 6 мая 2010 года на месте гибели командного состава отдельного дивизиона бронепоездов установлен памятник - бронепоезд-музей, восстановленный железнодорожниками депо станции Узловая к 65-летию Великой Победы.