随着中苏条约正式签署，1951年中国军工在苏联专家的援助下，开始对苏制托卡列夫军用手枪进行仿造。苏联方面将为中国提供所有的图纸以及机床流水线设备，并且培养中方的技术人员。严格意义上来讲，该枪只是对托卡列夫手枪进行了简单仿制，没有融入半点中国元素，因此只能说是中国组装，经过中国的组装之后该枪被重新命名为51式手枪。
1953年，得益于中苏协议苏联专家大规模进入中国，其中也不乏军事专家。双方专家就51式手枪在朝鲜战争中暴露出的诸多问题展开了详细的研究并作出了改进。1954年，改型手枪正式定型并大规模生产装备部队，被命名为54式手枪。同时该枪也是中国建国以来正式加入部队的第一种制式武器。
后来，54式手枪先后参加过中印边界战争以及中越边界战争。而且54式手枪也充分满足了恶劣环境下的作战需要。其射程较好，穿透力强，威力也很大，在50米内的距离上可以适应战斗中自卫武器的需求，是一种大威力的军用手枪。
正是因为完全可以满足军事作战的需求，所以54式才能够在军方服役超过50年，成为中国轻武器的常青树。此外价格便宜和结构简单容易制造也使其颇受青睐。据了解，1987年54式手枪出厂时的号码已经高达35000000，也就是说该型手枪的生产总数已经超过了三千万五百万支。同时也是我国生产和装备量最大的手枪。
