Приказом Народного комиссара обороны СССР от 18 сентября 1941 года, 100-я и 127-я стрелковые дивизии 24-й армии первыми были удостоены звания Гвардейских, получив соответственно наименование 1-й и 2-й Гвардейских стрелковых дивизий. Это решение было принято после успешной ликвидации так называемого Ельнинского выступа во время Второй мировой войны.
Воинские части, корабли, соединения, объединения Вооруженных Сил СССР, преобразовывались в гвардейские за массовый героизм, мужество и высокое воинское мастерство, проявленное в боях, а также части реактивной артиллерии и вновь сформированные соединения, в состав которых вошли части, ранее получившие звание гвардейских. Гвардейским частям, соединениям и кораблям вручались гвардейские знамена.
Для военнослужащих гвардейских частей и соединений 21 мая 1942 года был учрежден нагрудный знак «Гвардия», а для гвардейцев Рабоче-Крестьянского Красного флота - прямоугольная пластинка с муаровой лентой оранжевого цвета с черными продольными полосами. Одновременно были введены гвардейские воинские звания.
В ходе войны, многие закаленные в боях части и соединения Красной Армии были преобразованы в «Гвардейские». Существовали гвардейские надводные и подводные корабли, отряды, батареи, роты, эскадрильи, парки, батальоны, дивизионы, эскадроны, полки, бригады, укрепленный район, дивизии, корпуса, конно-механизированная группа, армии и училища.
К концу войны советская гвардия включала свыше 4 500 частей, кораблей и объединений. Из них: 11 армий и 6 танковых армий, одна конно-механизированная группа, 40 стрелковых, 7 кавалерийских, 12 танковых, 9 механизированных и 14 авиационных корпусов, 215 дивизий: 117 стрелковых, 9 воздушно-десантных, 17 кавалерийских, 6 артиллерийских, 53 авиационных, 6 зенитных артиллерийских и 7 реактивной артиллерии дивизий, 18 надводных кораблей, 16 подводных лодок и большое количество частей различных видов и родов войск.
После завершения Великой Отечественной войны некоторое количество гвардейских частей, соединений и объединений базировались в Восточной Европе. В частности, в Группе советских оккупационных войск в Германии - ГСВГ, ЗГВ, дислоцировалось 139 гвардейских частей, соединений и объединений.
В мирное время преобразование объединений, соединений, частей и кораблей в «Гвардейские» не производились. Но в целях сохранения боевых традиций «Гвардейские» почетные звания, принадлежащие частям, кораблям, соединениям и объединениям, при их переформировании или по преемственности, передавались другим объединениям, соединениям, частям и кораблям. Исключением стали АПЛ «К-133» и «К-116», которым, за успешное выполнение задания, в 1966 году было присвоено почетное звание «Гвардейских».
После распада Советского Союза гвардейские части, соединения и объединения сохранились в таких постсоветских странах, как Россия, Белоруссия, Украина, Казахстан, Киргизия. Указом Президента России от 22 декабря 2000 года «В связи с 300-летним юбилеем Российской гвардии, учредить День российской гвардии 2-го сентября».
Первой частью, которой было присвоено почетное звание «Гвардейская», стала 22-я отдельная гвардейская бригада специального назначения. К 100-летию образования, Рязанскому высшему воздушно-десантному командному училищу, распоряжением Правительства Российской Федерации № 245-р от 17 февраля 2018 года присвоено почетное наименование «гвардейское».