Министром внутренних дел СССР Николаем Щелоковым 29 декабря 1977 года было принято решение о формировании на базе 9-ой роты 3-го батальона 2-го полка Отдельной мотострелковой дивизии особого назначения - ОМСДОН имени Дзержинского, учебной роты специального назначения УРСН - первого в системе МВД подразделения спецназа.

Военнослужащих в это подразделение отбирали из числа лучших спортсменов дивизии на добровольной основе. Кандидаты должны были иметь отличную физическую подготовку и обладать психологической устойчивостью. В 1989 году на базе роты был создан батальон, который в 1991 году стал отрядом специального назначения «Витязь».

В 1980 году отряду было поручено обеспечение безопасности участников Московской Олимпиады. В 1981 году «витязи» участвовали в освобождении детей, захваченных террористами в одном из сел близ Ижевска. В 1986 году они ликвидировали группу преступников, пытавшихся захватить пассажирский самолет в Уфе.

В 1990 году «Витязь» совместно с группой «Альфа» провел спецоперацию по освобождению захваченных бандитами заложников в Сухумском следственном изоляторе. Отряд принимал участие в разрешении всех межнациональных конфликтов на территории бывшего СССР, а также в разоружении незаконных вооруженных формирований на территории Чечни в 1994-1996 годах. Еще в 1980-х годах символом бойцов этого подразделения стал краповый берет.

С 1999 года отряд выполнял задачи в ходе контртеррористической операции на территории Северо-Кавказского региона России. В 2002 году отряд участвовал в специальной операции по освобождению заложников, захваченных террористами на мюзикле «Норд-Ост» в Москве.

В 2008 году на базе отряда «Витязь», путем слияния с отрядом специального назначения «Русь», был сформирован 604 Центр специального назначения внутренних войск МВД России. Символом бойцов Центра продолжает оставаться краповый берет.