日本侵华期间，为了巩固和强化日本对沦陷区的统治，血腥屠杀抗日活动，日本组建了规模庞大的宪兵专门从事压制反抗，刺探情报等工作。
日本宪兵学校为了模拟在中国执行任务的真实状况，还专门将中国老百姓抓获后进行实际模拟训练。他们需要学习的科目有柔道、剑道、捆绑术、骑术、射击、战斗训练、特务工作、情报搜集以及中文学习。
日本宪兵在沦陷区积极配合日军的军事行动，以屠杀等手段制造恐怖气氛，进一步巩固日本的殖民统治，并在车站，要道，封锁区等处设卡检查行人。日本宪兵手上沾满了中国抗日志士与普通民众的鲜血。
在抗战胜利以后针对日本战犯的审判中，日本宪兵就占了一半，其中被判处死刑的占到了日本战犯死刑人数的8成，由此可见日本宪兵在中国有多么的残忍。
有少数日本宪兵就是死到临头都认为自己通过“执法”对中国人大开杀戒并没有什么错，因为他们的职责就是面对中国人，所作所为都是上级的安排，自己并不应该为所犯的罪行负责。还认为自己作为军人以服从命令为天职是理所当然的事情。
