Образование и развитие войск ВЧК советского государства происходило в сложных условиях Гражданской войны.
После Октябрьской революции 1917 года советская власть создает свои органы охраны и защиты. Наряду с Красной армией формируются войска вспомогательного (или специального) назначения, включавшие вооруженные формирования различных ведомств, нуждавшихся в боевой силе.
В их числе: войска ВЧК, железнодорожная охрана (подчиненная Наркомату путей сообщений), продовольственно-реквизиционная армия (подчиненная Наркомату продовольствия), пограничная охрана (подчиненная Наркомату финансов), конвойная стража (подчиненная Наркомату юстиции) и др.
К решаемым служебно-боевым задачам относились: предупреждение и подавление открытых контрреволюционных выступлений, борьба с бандитизмом, шпионажем, пресечение подрывной деятельности контрреволюционных организаций, обеспечение революционного порядка, охрана границ, железнодорожных и водных путей сообщения и др.
В дальнейшем происходят диктуемые временем преобразования и реформы войск. Были образованы: в 1918 году – корпус войск ВЧК, с 1919 года – войска внутренней охраны (ВОХР), в 1920 году – войска внутренней службы (ВНУС), в 1922 году – войска ГПУ, с 1923 года – войска ОГПУ, с 1934 года – внутренняя охрана НКВД, а с 1937 года – внутренние войска НКВД СССР. При этом значительно увеличивается объем служебно-боевых задач, выполняемых войсками.
Принимаются нормативно-правовые документы, регламентирующие служебно-боевую деятельность войск. Так, в 1931 году приказом ОГПУ СССР был утвержден Устав службы внутренних войск, в 1939 году приказами НКВД СССР утверждены Устав службы конвойных войск НКВД СССР, Устав службы войск НКВД СССР по охране железнодорожных сооружений, а в 1940 году – Устав службы войск НКВД СССР по охране особо важных предприятий промышленности.
В период становления советской власти и в межвоенный период на органы и войска ВЧК – ОГПУ была возложена задача противодействия политическому бандитизму. Совместно с частями Красной армии были разгромлены крупные вооруженные формирования внутренней контрреволюции.
Славной страницей в истории войск является их участие в борьбе с басмачеством в Средней Азии. Борьба началась сразу с установлением советской власти и продолжалась с перерывами вплоть до середины 1930-х годов.
Борьба с бандитизмом и басмачеством в национальных республиках потребовала создания национальных войсковых формирований. В 1920-х годах было создано около 40 дивизионов войск ГПУ – ОГПУ, носивших национальные названия: 14-й Бухарский дивизион, 40-й Бурятский, 46-й отдельный Горский, 47-й Кубано-Черноморский, 48-й Дагестанский, 53-й Чеченский кавалерийский и др. Данные формирования сыграли значительную роль в установлении правопорядка в указанных регионах страны.
Советско-финляндская война 1939 –1940 гг. стала для войск НКВД периодом освоения новых способов действий. Принятые меры по охране тыла Действующей армии позволили взять под надежную охрану и оборону все важнейшие объекты и коммуникации, пресечь попытки проникновения в тыл вражеских агентов и диверсионных групп.
За образцовое выполнение заданий командования на советско-финляндском фронте и проявленные при этом доблесть и мужество 12 военнослужащих войск НКВД были удостоены звания Героя Советского Союза.
К началу Великой Отечественной войны в составе НКВД СССР было сформировано четыре управления, осуществлявших руководство войсками НКВД:
Главное управление пограничных войск НКВД СССР;
Главное управление войск НКВД СССР по охране железнодорожных сооружений и особо важных предприятий промышленности;
Управление оперативных войск НКВД СССР;
Управление конвойных войск НКВД СССР.
Два управления – Управление политической пропаганды войск НКВД СССР и Управление военного снабжения НКВД СССР и Военно-строительный отдел НКВД СССР осуществляли свою деятельность в интересах всех войск НКВД СССР.
Общее руководство войсками НКВД осуществлял заместитель наркома внутренних дел по войскам генерал-лейтенант (в последующем генерала армии, Герой Советского Союза) И.И. Масленников.