С февраля по июль 1941 года — начальник 6-го отдела 2-го управления НКГБ СССР. После объединения НКГБ и НКВД в июле 1941 года назначен начальником Управления НКВД по Смоленской области. С 30 сентября 1941 года — начальник вновь созданного Отдела по борьбе с бандитизмом НКВД СССР.
4 июня 1942 года назначен начальником Управления НКВД по Орджоникидзевскому краю с присвоением звания «старший майор государственной безопасности».
С декабря 1942 по май 1943 года — заместитель начальника 2-го управления НКВД СССР, затем до ноября 1946 года — заместитель начальника 3-го управления НКГБ — МГБ СССР. 14 февраля 1943 года присвоено звание «комиссар государственной безопасности», 9 июля 1945 года — «генерал-майор».
С ноября 1946 года — начальник Саксонского оперативного сектора Советской военной администрации в Германии
В 1947 году был арестован в Германии по обвинению в превышении власти и использовании служебного положения. Санкцию на арест дал И. В. Сталин по просьбе Министра государственной безопасности СССР В. С. Абакумова. Был доставлен в Москву, в МГБ, где от него потребовали показаний на И. А. Серова, Н. С. Хрущёва и Л. М. Кагановича. По собственному рассказу Клепова, он отказался дать такие показания и якобы ударил Абакумова, после чего был избит и посажен в камеру метр на метр, построенную из решёток, через которые все время пропускают сквозной воздух. После суточного пребывания в этой камере четыре месяца пролежал в госпитале.
Был приговорён к 10 годам лишения свободы; отбывал наказание на Волго-Донском канале.
