“将军”一词源于春秋时代。在春秋之前没有将军这个称谓，那时候掌管军事的官职叫司马。当时国家军队数量并不多，天子只有六军（每军2500人），诸侯最多不超过三军。各军的统帅叫卿，卿以下叫大夫（师），大夫以下叫士。春秋时，诸侯为了扩大势力范围，不断增加兵力，大国诸侯常常拥有三军以上的兵力，而在编制上只能有三军，只能设三卿。
　　于是，他们就把扩充军的统帅称为“将军”，意为率领一军的意思。作战时军队由一人统一指挥，因此，在将军中选拔出大将军或上将军来指挥全军。到了汉代，军队数量更多，单設一位大将军管不过来，随之又出现了骠骑将军、车骑将军、卫将军等级别。