武帝因此决定与月氏联盟，合力攻讨匈奴。张骞就是在这个目的之下被派遣的使者。

然而，要到月氏国，非经过匈奴领域不可。张骞率领一个名叫甘父的匈奴人以及百余名部下从陇西（甘肃省）启程往西，结果一下子就为匈奴所擒。

当时的匈奴王军臣单于对张骞道：“想到月氏国？月氏国在我国的那一边，你以为我会准许你们通过此地吗？你想想看，如果我要派使者到越国，汉皇帝会准许我的使者通过汉吗？同样的道理，你别想通过我的国土。”

越乃泛指中国南方。

张骞在匈奴被扣留达十数年之久。匈奴替他成亲，并生下孩子。虽说被扣留，实际上接受的是客卿待遇，连家庭都建立了起来，张骞因此装出对现状非常满意的样子。

“没想到在此地得到妻儿，本人已心满意足。”

张骞逢人便说这句话，实际上这是为了使匈奴心生大意的计策。果然，匈奴对他的看管越来越松弛。后来，在一个机会下，他成功地和家人、甘父和部分部下逃出匈奴国。

往西奔跑数十日后，抵达一个叫大宛的国家。这是中亚的菲尔迦那地区。这个国家的国王很会做生意，由于素闻汉土之富裕，因而企图借善待张骞打开日后与汉的交易之途。他特地派向导和通译人员，经由康居国，送张骞至月氏国。