在不同的国家，不同的时期，对于冲锋枪有不同的叫法。德国人称为Maschinen-Pistole，意为机关手枪，缩写为MP，所以德*冲锋枪都冠以“MP”的编号，例如一战的MP-18，二战的MP-38和MP-40，以及二战以后最有名的MP-5。
俄国人的叫法是Пистолет-пулемет，前一个单词是手枪，后一个单词是机枪，这种叫法和德国人类似，所以俄国冲锋枪型号都以ПП（英文PP）开头，例如二战时期著名的ППШ波波莎和ППС波波丝冲锋枪。
在上世纪20至40年代，国内通常以美国称呼submachinegun（SMG）作为冲锋枪的名称，直译为轻机枪，短机关枪，手提机关枪等等。日语则为轻机关铳，而英国人有时候称之为machinecarbine，意为机关卡宾枪。
在第一次世界大战期间，人们发现现有的手枪火力不足以应付战壕和城镇等狭窄空间内的火力需求，机枪又太笨重而无法展开，于是冲锋枪就应运而生的，德国人在年设计的MP18冲锋枪被认为是第一支真正意义上的冲锋枪。
德国的MP38式是世界上第一支折叠式金属托冲锋枪，法国的E·T·V·S是第一支折叠式木托冲锋枪；除了苏联采用7．62mm手枪弹和美国采用11．43mm手枪弹外，其他国家普遍采用9mm帕拉贝鲁姆手枪弹，这种枪弹可与大多数手枪通用。
如今使用手枪弹的常规冲锋枪进一步向多功能化、系列化的方向发展。通过给冲锋枪配用各种光学瞄准镜、消声器，使其具备有多种功能。
冲锋枪这个词在中国应用比较晚，大约是解放战争以后才在我*开始应用的。按照《中国兵器工业科学技术辞典》（轻武器分册）中的定义，冲锋枪是单兵双手握持，可发射手枪弹的轻型全自动枪，请注意“发射手枪弹”和“轻型全自动”这两个关键词，国内对冲锋枪的划分方法是习惯以这两个关键定义作为分类标准的。冲锋枪介于手枪和自动步枪之间，比步枪短小轻便，便于突然开火，射速高，火力猛，适用于近战或冲锋，因而得名“冲锋枪”。
我*唯一例外发射步枪子弹的冲锋枪是56式冲锋枪，它是苏联卡拉什尼科夫AK-47型突击步枪的国产仿制型号，该枪发射7.62x39mm56式步枪弹，按照概念划分，应该属于自动步枪。但由于年代我国的武器思想较为传统，还没有突击步枪和自动步枪等概念。
另外，冲锋枪一开始并没有短小轻便的概念。我国的50式冲锋枪，仿制于苏联ППШ-41波波莎，由于原枪配备的71发弹鼓很不好用，经常被磕瘪，故障较多不可靠，所以50式冲锋枪改用供弹顺畅的35发弹匣。该枪过于笨重，全重七斤三两，比现在的95式自动步枪还要重七两。后来我*改进为金属折叠枪托，仿制ППС-43波波丝成为54式冲锋枪。
那时候普遍认为只有56式半自动步枪和莫辛纳甘栓动步骑枪那样的枪支，才能称为步枪，而把发射中间威力型步枪弹的全自动武器称之为冲锋枪，战术定位也被设定为班组火力支援用武器，用于提供近距离压制火力，因此定型为冲锋枪，称为年式冲锋枪，简称“56冲“。
56式冲锋枪是我国生产和装备量最大的自动步枪，年生产定型，年改型56-1式，年改型56-2式，年改型QBZ56C式。56式冲锋枪与AK-47突击步枪的性能基本一致，外形上稍有不同，例如AK-47的准星为半包式两侧护翼，而56式冲锋枪则为全包式的护环，护环顶端有开孔，56式冲锋枪最特别的是采用了折叠式的三棱刺刀，充分发扬我*“刺刀见红”精神。56式冲锋枪的产量极大，甚至比苏联原装货AK47还要大得多，原因是AK47突击步枪在苏*的装备时间较短，很快就被AKM枪族所取代，而中国产的56式则一直生产到90年代初。