漢初，高祖曾被匈奴擊敗，武帝即位后便決心徹底消滅匈奴。當他得知，原來在敦煌附近（今甘肅西部）居住的大月氏受匈奴的強力攻擊，被迫西遷而欲報仇雪恨時，便欲與之聯合共同夾擊匈奴。于是，張騫自告奮勇出使西域這本是出于漢武帝政治上的遠見。
西域的名稱始于西漢，廣義上指今新疆以西、中亞、和田一帶。公元前139年，張騫第一次訪問西域諸國，歷盡坎坷，于公元前126年返回長安。行程沒有一定的路線可言，并且也沒有隨帶絲綢制品。待到公元前119年，張騫又以中郎將的身份，偕同副使、將士等三百余人，攜帶“牛羊萬頭”、“金幣帛數千巨萬”，以一支浩浩蕩蕩的隊伍第二次出使西域時，才真正地把大量絲綢帶到了西方。當時，匈奴已被漢帝國擊敗，中途沒有什么阻礙，從長安出發，經隴西（今臨洮）、焉耆、龜茲（今庫車），越蔥嶺到達赤谷（今伊塞克湖東南），并與烏孫（今哈薩古共和國）建立了外交關系。通過烏孫的關系，張騫又派遣副使分赴大宛（今吉爾吉斯共和國）、康居（今哈薩克共和國）、大月氏（今烏茲別克和塔吉克共和國）、大夏（今土耳其）、安息（今伊朗）、身毒（今印度）、于闐（今新疆）等國，并于公元前115年回國。
此后，西域諸國紛紛與漢帝國建立外交關系。在掃清了匈奴的障礙以后，西北絲路較之西南絲路更為便捷，且作為官道，保證了沿途的安全和旅途食宿的方便。此線路大致是從長安出發，經寶雞、隴縣、固原、武威、張掖、酒泉、安西、敦煌，出玉門關，進入新疆分赴各國。
自漢代直至北魏時期，這條絲路一直十分繁榮。但從四世紀中葉起，河西走廊戰亂頻繁，五世紀中葉，突厥族逐漸強大，并控制了這條線路。此時，平行于河西走廊的青海道（又稱“羌中道”）取代了原西北絲路的地位。其主要路線是：從今甘肅臨夏起，在永清過黃河至青海民和，經西寧逆湟水而上，越日月山，沿青海湖過伏俟城，穿過柴達木盆地進入新疆的若羌，再轉走絲路南道。隨著河西走廊的日趨安寧，絲路又逐漸北移。青海道曾擔負了二百多年中西交往的重任。
唐代以后（公元640年），該絲路又繼續暢通。西北絲路與西方各國之間距離短、沿途所需費用少、時間短。歷宋、元、明各朝代直至十七世紀，雖西北戰亂仍不斷發生，海上絲路已十分繁榮，但西方不少國家仍取此線路與中國進行絲綢貿易。尤其在蒙元時期，西北絲路在四大汗國之一的伊爾汗國境內通過，伊爾汗國以撒爾罕為統治中心，在此廣設驛站，交通更為便利。伊爾汗國西界直達地中海，再向西行便可到達羅馬，當時稱為絲綢之路南道，這是與被稱為北道的草原之路相對而言的。
西北絲路是政府開拓的官道，作為禮物和商品的絲綢來自中原以至全國。漢武帝時，國內的蠶織業已十分發達，在政府“農桑衣食之本”的精神指導下，家家“還廬樹桑”，絲綢產量空前高漲，政府征收的絲綢一年內可達五百萬匹。這些絲綢除官員自用和用于犒賞之外，還剩余了很多用來換取外國的珍寶以供玩娛。此外，官府專立“織室”織作高級絲織品，民間也有高級絲織品出售，這些絲織品同時也用于對外貿易和饋贈親友，這些都可從相關記載與絲路沿途出土的絲織品得以印證。
中國的蠶種也是從這條絲路上傳到了西方各國。始于公元六世紀，傳到中亞細亞和外高加索各國、阿富汗、伊拉克、伊朗和土耳其，七世紀傳到阿拉伯和埃及，八世紀傳到西班牙，十三世紀傳到意大利，十五世紀傳到法國。由此可見，我國是世界蠶絲業的最早發源地。
