《史记》、《淮南子》称：黄帝时已设立“司马”等军事首领官职。《今文通典·尧典》、《古文通典·舜典》称：夏王朝设立了“司徒、司马、司空”等文武官职。《尚书·洪范》称：商王朝有“司徒、司空、司寇”和“马、亚、射、戎、卫”等文武百官。从上述古籍看，夏商体制一直沿袭到西周，虽然文官武职已分门别类地设立，但卿、大夫既管理政事，又受王命率兵出征，司马只主管平时军事行政，而无统兵之权，战时统帅由天子临时任命，征战结束即将统兵之权上交天子。根据以上所述，文官武将在西周以前是不分的。
但周王室在春秋时已衰落，各诸侯都有自己的军队，据《史记》、《国语》记载，军队的最高统帅是国君，天子常亲自率兵作战，也有不少文官武将去领兵作战。例如《左传·隐公五年》中记载周桓王二年北制之战，郑庄公派大夫祭足、原繁、泄驾、公子伯和子元率兵抗击燕军，而那时大夫便是文武一体。又如《左传·僖公二十二年》记载，周襄王十四年，宋桑楚泓水之战，宋襄公统帅宋军，太宰子鱼和大司马公孙固辅助；楚成王派成得臣、斗勃等军将统帅楚军。再如《左传·昭公二十七年》记载，楚昭王元年，吴军包围潜城，楚王派王麋（主管宫廷）、王尹寿（主管营造、手工业），统帅救兵增援。《左传》中的详细史实证明，文官武将直到春秋时也未分开。