现代突击步枪的演变始于第二次世界大战，当时德国制造了Sturmgewehr 44（StG44）。StG44于1944年开始服役，为德国士兵提供了冲锋枪的火力，但射程和准确性更高。在东部前线遇到StG44时，苏军的火力被压制，开始寻求制造类似的武器。
苏联设计师阿列克谢·苏达耶夫利用7.62 x 39毫米M1943弹药筒设计了AS-44突击步枪。经过1944年的测试，发现它太重了，无法广泛使用。由于这种设计的失败，苏军暂时停止了对突击步枪的探索。
1946年，苏联开始了新的设计竞赛，这次的主角是米哈伊尔·卡拉什尼科夫。他在1941年的布良斯克战役中受伤，在战争期间开始设计武器，此前曾涉足半自动卡宾枪的设计。
尽管他输给了谢尔盖·西蒙诺夫的SKS，但他还是采用了突击武器设计，从StG44和美国M1 Garand身上汲取了灵感。卡拉什尼科夫的设计（AK-1和AK-2）旨在作为一种可靠而坚固的武器，足以打动评委进入第二轮比赛。
在他的助手的鼓励下，卡拉什尼科夫对设计进行了修改，以提高在各种条件下的可靠性。这些改动使他1947年的模型臻于完善。在接下来的两年中，随着卡拉什尼科夫设计赢得了比赛，测试取得了进展。成功的结果是，这款枪械以AK-47的名称投入生产。
苏联开始批量生产AK-47后，在接下来的冷战期间，将这款枪推销到了世界各地，但是因为没有拿到专利，发明者卡拉什尼科夫并没有从中得到一分钱的好处。当然，他当年是为了国家的安全才开始研发这款武器。
