起初，武帝對匈奴并沒有必勝把握，所以他想到了游牧民族大月氏。

月氏祖居祁連山北麓（今河西走廊一帶），族人敗給匈奴后遷至西域。西域，指的是陽關、玉門關以西，蔥嶺以東，天山南北兩側的廣袤地區(qū)，有康居、烏孫、樓蘭等大小三十余邦國。

敵人的敵人是朋友，建元三年（前138），武帝派張騫率使團從長安出發(fā)，旨在聯絡月氏人夾擊匈奴。然而當時，匈奴占據著中原去往西域的唯一通道：河西走廊，他們很快發(fā)現了張騫，一扣便是十年。

十年間，哪怕沾染了胡族習性，甚至娶妻生子，張騫的初心也沒有改變。一夜，他趁守衛(wèi)疏忽悄然離開，向西翻山越嶺找到了月氏人，但對方卻安于現狀，已無復仇念想。

張騫于元朔三年（前126）回到了長安，此行雖沒完成任務，卻讓武帝對西域的風土人情了然于胸，知曉了諸國愿與漢朝交往的意愿，因信息事關重要，司馬遷稱之“鑿空”。

不久，張騫便開始以向導身份參軍。元狩二年（前121），霍去病渡河大破匈奴，武帝沿河西走廊設武威、張掖、酒泉、敦煌四郡，并在敦煌附近修筑了兩座“國門”，一稱玉門關，一稱陽關，出了關，便是西域。

多年后，詩人王維在《送劉司直赴安西》中寫道：“絕域陽關道，胡沙與塞塵?！笔惆l(fā)了走出陽關，奔向西域的復雜心情，后人便用成語“陽關大道”來比喻通向光明的道路。

大道，是因為沒有匈奴攔路，光明，意指西域諸國對漢朝的向往。張騫于元狩四年（前119）再度出發(fā)，這次引來各國使節(jié)回訪，均表示愿與漢朝結盟，來去間，一條條商路通向了長安。

詩中還說：“苜蓿隨天馬，蒲桃逐漢臣?！焙芸?，苜蓿、寶馬、葡萄、胡桃等西域特產進入中國，這邊過去的，則是冶鐵、養(yǎng)蠶等先進技術。在茶葉和瓷器之前，絲綢是西方人最愛的中國商品，歷史上，從西域到羅馬沿途均有發(fā)現漢代絲綢制品，人們用絲綢來彰顯身份。

所謂“絲綢之路”，在當時始于長安，終于羅馬，是一條集政治、經濟、文化于一體的陽關大道。而大道不止一條，凡與漢朝有貿易關系的邦國雨露均沾，整體上，它從長安經河西走廊至西域，這時，一路繼續(xù)向西去往中亞，最后到達羅馬，另一路向南直通身毒（古印度）。

為維護絲路的暢通，漢朝于宣帝神爵二年（前60）將匈奴殘余勢力逐出西域，并設郡級行政機構：西域都護府，此舉標志著西域首次納入中原版圖。