汉阳兵工厂的诞生，始于清政府试图实现“自强、求富”的洋务运动。1840年，鸦片战争爆发，中国被英国的坚船利炮轰开了国门。自此开始，一份份丧权辱国的不平等条约接连签订。1883年，中法战争中，清朝两广总督张之洞意图向欧美购买军械，却受到百般刁难。此时他才幡然醒悟：“方今求一千之枪，难于筹十万之饷。”为此，张之洞毅然上书，要求建设兵工厂。
1892年，这座由张之洞创办的兵工厂在湖北汉阳建立，最初称为湖北枪炮厂，以清光绪年间的一座枪炮场为基础兴建，1908年正式更名为汉阳兵工厂。
汉阳地处华中腹地，具备天然的地理优势——东面紧邻京广铁路，西面靠近长江水道，水陆交通都十分便利。时值洋务运动兴起，清政府也十分重视军事发展，汉阳兵工厂的建立集齐了“天时、地利、人和”，成为“一时新秀”。
兵工厂创办后，最初仿造的是德国的步枪与炮弹。其中，仿造德国1888式步枪制造的“汉阳造”步枪，成为汉阳兵工厂的“明星产品”。这款步枪经过汉阳兵工厂改造，克服了原1888式步枪易炸膛的缺陷，并在后期解决了不能射击尖头弹的问题，成为中国当时最先进的步枪之一。汉阳兵工厂也因此成为晚清时期规模最大、设备最先进的军工企业。