最早使用红军称号的是广州起义部队。1927年12月初，广东省委决定在起义中“组织红军”。12月11日，广州起义爆发，起义领导机关发布《红旗号外》，公开宣称组织工农红军，“工农红军总司令叶挺，工农红军总参谋徐光英。”此次起义失败后，部队撤离广州，根据广东省委指示，改编为工农革命军第一师，因而红军这一称号没有继续使用。
1928年4月，朱德、陈毅率南昌起义余部和湘南农军在井冈山砻市与毛泽东领导的秋收起义部队胜利会师。这时，中国共产党已接受了共产国际执行委员会第九次扩大会议提出的“实行土地革命和组织红军部队”的意见，提出了在“苏维埃的区域中要切实实行土地革命，并且要努力建立红军”的号召。但这个号召未能及时传达下来。因此，会师后的部队合编后，称为工农革命军第四军。
5月25日，中央发布《中央通告第五十一号---军事工作大纲》明确指出：“可正式命名为红军，取消以前工农革命（军）的名义。”6月4日，中央在给井冈山前委的信中，又具体指示四军：“关于你们的军队，你们可以正式改成红军。”从此，红军这一名称正式成为我党领导的革命武装的称号，各地工农革命军也相继改称为红军。
