雖然馬很早就被人類馴服，但是早期的騎兵沒有馬鞍，也沒有馬鐙，全靠雙腿夾緊馬腹御馬，無法進行格斗搏殺，只能靠射箭殺敵。
而這種高難度操作技巧只有從小在馬背上長大的游牧民族才擅長，中原地區(qū)的軍隊直到了春秋末期、戰(zhàn)國初期才出現專門的騎兵。

騎兵

“中行穆子之敗翟于大陸，得之毀車崇卒；而智伯欲代仇猶；遺之大鐘，以開其道，其不利于車可知矣。勢不得不變而為騎，騎射所以便山谷也。”(顧炎武《日知錄·卷二十九》)

清朝顧炎武在中記載道：春秋時期荀吳在大原之戰(zhàn)中毀戰(zhàn)車改用步兵大勝戎狄，智伯為滅仇猶國先以贈送大鐘為名義，實則伏兵全在大車之后。可見山道作戰(zhàn)，車兵和步兵都不如騎兵敏捷。
但當時華夏各族都是寬袖長袍，騎在馬背上很難做出射箭的動作。
公元前307年，趙武靈王在與北方匈奴的作戰(zhàn)中，推行“胡服騎射”，將騎兵的服裝改為游牧民族的窄袖短袍，建立了可以與游牧民族作戰(zhàn)的騎兵。時趙國以李牧為統(tǒng)帥，訓練騎兵騎射，騎兵1.3萬人，擊敗匈奴、東胡等游牧民族，十幾年不敢接近趙國邊境，趙國軍事力量一躍為戰(zhàn)國群雄前列,成為了山東六國的抗秦主力。

霍去病任驃騎將軍

西漢時期，為了與匈奴作戰(zhàn)，建立起了大規(guī)模的騎兵部隊。朝廷設置有專門的“車騎將軍”、“驃騎將軍”、“驍騎將軍”等名號，北軍中也有“屯騎校尉”、“越騎校尉”、“胡騎校尉”，在對匈奴的戰(zhàn)爭中，出動的騎兵數以十萬計，超過步兵數量。
東漢時期保留了西漢的制度，但數量有所下降，主要依靠內附的南匈奴和羌族部落的騎兵作戰(zhàn)。

東漢末年，曹操在官渡之戰(zhàn)以5000騎兵突襲袁紹后勤基地烏巢，獲得勝利。曹操的虎豹騎部隊更是百里挑一，戰(zhàn)績彪炳。

遼代竹馬鐙

十六國時期，由于馬鐙等馬具的普及應用，重裝騎兵也全面登上歷史舞臺，在軍隊中所占比重也大大增加，成為決定戰(zhàn)場勝負的關鍵因素。
如肥水之戰(zhàn)時，前秦軍隊號稱步兵60萬，騎兵27萬大舉進攻東晉。北魏進攻南朝宋時更是出動騎兵60萬，營寨連綿3000里。
到了唐朝，軍隊的標準編制是騎兵占戰(zhàn)斗部隊的30%，盛唐時期全部57萬常備軍中有16萬騎兵，也大體符合這個標準。唐中期開始，漢族朝廷逐漸喪失了對馬匹產區(qū)的控制。騎兵比重逐漸下降。

北宋時期，朝廷千方百計促進馬匹的養(yǎng)育，但是南方農業(yè)區(qū)并不合適大批馬群放牧，馬匹產量長期萎縮，特意設置的“馬軍”也名不副實，大部分軍隊都是沒有馬的步兵。
南宋時期，疆域的進一步縮小，導致馬的來源更加捉襟見肘，只能裝備以廣西生產的矮種馬，騎兵只占軍隊的5%，面對北方游牧民族的騎兵屢戰(zhàn)屢敗。能與北方游牧毛南族一戰(zhàn)的南宋軍隊，一般都配備著大量的騎兵，比如岳飛依靠俘獲的馬匹，訓練的8000騎“背嵬軍”在對金軍作戰(zhàn)中取得勝利。

到了明朝初期，朝廷又加大了騎兵的力量。如在永樂年間，朱棣親征漠北動用了大量的騎兵。1409，韃靼可汗本雅失里殺死明朝使臣郭驥，朱棣命丘福征討，丘福率十萬騎兵奔襲，最終全軍覆沒。半年后，明朝又動員組建出30萬騎兵。但是1449年“土木之變”后，朝廷掌握的京軍全軍覆沒，騎兵損失再也沒有恢復到原來的水平，倒退到兩宋的水平。

清八旗兵的主體主要是騎兵，騎、步比大約是1：1；而綠營兵則是步兵為主，馬、步比大約是3：7。不過清朝時的“馬兵”已經稱為泛指級別最高、俸祿最多的士兵，不一定配備有馬匹，比例可能更低。