大宇精工（大宇プレジション・インタストリーズ）がライセンス生産していたM16A1小銃の後継小銃開発計画を、国防科学研究所（ADD）で計画した。1972年、朴正煕大統領（当時）が小銃開発計画を正式に指示し、国防科学研究所を主体として開発がスタートした。

1977年から試作銃であるXB-1からXB-6までの6種の試験用小銃が設計・開発された。 検討の結果、XB-6に若干の改良を加えK2として制式採用された。 生産は開発にも関わった大宇精工が担当し、M16の生産ラインや設備が一部流用されている。一丁あたりの単価も、ライセンス料が発生していたM16よりは安価だとされる。

生産は1984年から開始され、主に戦闘部隊等に優先的に配備された。1990年代には、後方の部隊を除いた大部分の部隊に配備が完了している。