На базе оперчекистских управлений и отделов НКВД, 14 апреля 1943 года решением Политбюро ЦК ВКП(б), был образован Народный комиссариат государственной безопасности СССР. Его деятельность регламентировалась «Положением о Народном комиссариате государственной безопасности СССР», утвержденном постановлением СНК СССР №621-191сс от 2 июня 1943 года. Позднее, 22 марта 1946 года, наркомат был переименован в Министерство госбезопасности СССР.

Впервые Народный комиссариат государственной безопасности СССР образован 3 февраля 1941 года путем разделения Народного комиссариата внутренних дел СССР на два наркомата: НКГБ СССР, в ведение которого передавались подразделения, непосредственно занятые вопросами государственной безопасности, и НКВД СССР, в ведении которого оставались внутренние, конвойные, пограничные войска, части и подразделения охраны тюрем и лагерей, милиция, части местной противовоздушной обороны и пожарной охраны, а также ряд других.

Соответствующее изменение в Конституцию СССР было внесено 1 марта 1941 года. Почти через месяц после начала войны - 20 июля 1941 года - НКГБ и НКВД были вновь объединены в НКВД СССР, аппарат НКГБ был реорганизован в Главное управление госбезопасности НКВД. Народным комиссаром государственной безопасности СССР в феврале - июле 1941 года был Всеволод Меркулов, до и после этого являвшийся первым замнаркома НКВД Лаврентий Берия.

Повторное создание НКГБ СССР состоялось 14 апреля 1943 года, в качестве официальной причины воссоздания Наркомата госбезопасности в довоенном виде выступало объяснение: «в связи с изменившейся внешней обстановкой». В апреле 1943 года НКГБ СССР был образован путем выделения из НКВД СССР тех же подразделений, что и в феврале 1941 года. Наркомом госбезопасности СССР вновь стал Всеволод Меркулов. Не изменился и спектр задач наркомата.

В июле 1945 года, несмотря на то что НКГБ являлся гражданским ведомством, специальные звания работников НКГБ были заменены воинскими званиями. Нарком Всеволод Меркулов, имевший звание комиссар государственной безопасности 1 ранга, стал генералом армии, его первый заместитель Кобулов - генерал-полковником, а заместитель по кадрам Михаил Свинелупов - генерал-майором.

Согласно Закону СССР «О преобразовании Совета Народных Комиссаров СССР в Совет Министров СССР и Советов Народных Комиссаров союзных и автономных республик - в Советы Министров союзных и автономных республик» 15 марта 1946 года все народные комиссариаты были переименованы в министерства, соответственно НКГБ СССР стал Министерством государственной безопасности СССР, а приказом от 22 марта 1946 года соответствующим образом были переименованы и территориальные управления.

Министром государственной безопасности 4 мая 1946 года стал начальник ГУКР «Смерш» Виктор Абакумов. С его приходом началось перетекание функций МВД СССР в ведение МГБ. В 1947-1952 годах из МВД в МГБ переданы внутренние войска, милиция, пограничные войска и другие подразделения, в составе МВД остались лагерные и строительные управления, пожарная охрана, конвойные войска, фельдъегерская связь.

Но из ведения МГБ была изъята внешняя разведка. Так, 30 мая 1947 года было принято решение о создании Комитета информации при Совете Министров СССР во главе с Вячеславом Молотовым, который объединил внешнюю политическую и военную разведки. В феврале 1949 года КИ при СМ СССР был реорганизован в КИ при Министерстве иностранных дел СССР, в ведение МГБ была возвращена внешняя контрразведка в советских загранучреждениях. В ноябре 1951 года внешняя разведка целиком возвращена в МГБ.

В МГБ 31 декабря 1950 года создана коллегия из 19 человек в составе министра, его заместителей и руководителей основных управлений. Министр Абакумов 4 июля 1951 года был отстранен, а 11 июля - освобожден от должности решением ЦК ВКП(б) и 12 июля арестован. Позднее 9 августа министром назначен Игнатьев. Осенью 1951 года прошли аресты руководящих работников МГБ, в том числе заместителей министра Питовранова, Селивановского и Королева.

Из-за передачей разведывательных функций из Комитета информации при МИД СССР в Министерство государственной безопасности СССР 2 декабря 1951 года приказом МГБ № 00796 в МГБ было вновь образовано Первое главное управление. Указом Президиума Верховного Совета СССР от 21 августа 1952 года воинские звания сотрудников МГБ были отменены, а вместо них введены специальные звания госбезопасности.

В день смерти Иосифа Сталина, 5 марта 1953 года на совместном заседании ЦК КПСС, Совета Министров СССР и Президиума Верховного Совета СССР принято решение об объединении МГБ и МВД в единое МВД СССР под руководством Лаврентия Берии. Через 10 дней были приняты соответствующие законодательные акты. Впоследствии, весной 1954 года, из МВД СССР выделены органы государственной безопасности и образован Комитет государственной безопасности при Совете Министров СССР.

На НКГБ СССР возлагалась разведывательная работа за границей; борьба с подрывной, шпионской, диверсионной, террористической деятельностью иностранных разведок внутри СССР; оперативная разработка и ликвидация остатков антисоветских партий и контрреволюционных формирований среди различных слоев населения СССР, в системе промышленности, транспорта, связи, сельского хозяйства и прочее; охрана руководителей партии и правительства.