武术的起源可以追溯到原始社会。那时，人类即已开始用棍棒等原始工具作武器同野兽进行斗争，一是为了自卫，一是为了猎取生活资料，后来人们为了互相争夺财富，进而制造了更具有杀伤力的武器。如《山海经‧大荒北经》就有“蚩尤作兵伐黄帝”的记载。这样，人类通过战斗，不仅制造了兵器，而且逐渐积累了具有一定的攻防格斗意义的技能。

在殷商时期，青铜业发展，以车战为主，出现了一些铜制武器，如矛、戈、戟、斧、钺、刀、剑等。同时，也出现了这类武器的用法，如劈、扎、刺、砍等技术。为了提高战斗力，这时已有了比赛的形式。如《礼记‧王制》所载“凡执技论力，适四方，裸股肱，决射御”，意即较量武艺高低。

春秋战国时期，铁器出现，步骑兵兴起，为了在步骑战中发挥作用，长柄武器变短，短柄武器(特别是剑身)变长，这样，武器的内容就更加丰富了，武术的技击性进一步突出，同时武术的健身作用也受到重视。这时比试武艺的形式已广泛出现，更加推动了武艺的发展。据《管子‧七法》载，当时每年有“春秋角试。”据《庄子‧人间世》和《荀子‧议兵》所载，当时比试武艺已非常讲究技巧，拳术打法有进攻、防守、反攻、佯攻等。

秦时盛行角抵和手搏，比赛时有裁判，有赛场，有一定的服装。1975年湖北省江陵县凤凰山秦墓出土的一件木篦背面上就彩画了当时一场比赛的盛况﹕台前有帷幕飘带，台上 3个上身赤裸的男子，只穿短裤，腰部系带，足穿翘头鞋，2人在比赛，1人双手前伸作裁判。

汉时，有了剑舞、刀舞、双戟舞、钺舞等。这都说明，汉时的武舞已有明显的技击性，有招法，又多以套路的形式出现。汉时是武术大发展的时期，已形成了多种技术风格的流派。如《汉书 .艺文志》收入的“兵技巧”类就有13家、199篇，都是论述“习手足，便器械，积机关，以立攻守之胜”的武术专著。

两晋南北朝时期，战乱频繁，官僚贵族或耽于宴乐或追求长生不老之术，其影响也渗透到社会各阶层的生活中，如视剑为具有神秘色彩的法器，甚至以木剑代刀剑，用荒诞无稽的邪说取代练武，致使武艺停滞不前。