1722年1月24日，俄国彼得一世颁布的《官级表》，首次设置此衔，排序为第19官级。1874年，俄国实行普遍征兵制后，列兵属于“低级军衔”。1918年，苏维埃共和国建立工农红军后，将列兵改称为红军战士，1946年7月恢复列兵军衔。当代世界大多数国家设有此衔。有些国家士兵最低军衔不称列兵，印度、美国、日本、奥地利、智利、秘鲁等国称三等兵，印度尼西亚、菲律宾、老挝、比利时、荷兰、匈牙利等国称二等兵，朝鲜等国称下等兵，英国等国称新兵。中国引入军衔制后，清政府命名最低等的兵的军衔为二等兵。此后，历届政府相沿未改，唯有北洋时期的海军称二等练兵。中华人民共和国实行军衔制时，设有列兵军衔。2010年7月公布的《中国人民解放军现役士兵服役条例》规定，服现役第一年的义务兵，授予列兵军衔。