Khi còn ở Đại Hạ, Trương Khiên đã chính mắt nhìn thấy gậy tre của Tứ Xuyên và vải mịn của Thục Địa bày bán trên thị trường, liền hỏi nhà buôn thì họ nói là buôn từ Thân Độc về. Thân Độc nằm ở phía đông nam Đại Hạ, cách xa hàng mấy nghìn dặm. Còn Đại Hạ cách xa nhà Hán hơn 10 nghìn dặm, nằm ở hướng tây nam TQ. Nếu từ Thục Địa đi qua Thân Độc đến Đại Hạ là một đường đi nhanh tiện nhất, vừa có thể tránh được sự ngăn cản của Hung Nô. Ông bèn kiến nghị với Hán Võ Đế mở thông đường Tây Nam Di và thu được hiệu quả to lớn.

Hai năm sau, Trương Khiên lại khuyên Hán Võ Đế liên hợp với U Sun, tức lưu vực sông Y Li ngày nay. Nhà vua phong Trương Khiên làm Trung lang tướng, dẫn theo 300 người, 600 con ngựa, cùng hàng vạn đồ kim ngân, bò, cừu, lần thứ hai xuất sứ Tây vực. Bấy giờ, thế lực Hung Nô đã bị đuổi khỏi hành lang Hà Tây. Sau khi đến U Sun, Trương Khiên khuyên vua U Sun rời về đất cũ ở phía đông, nhưng vì vua đã già yếu không thể làm chủ, còn các đại thần thì rất sợ Hung Nô, họ cho rằng triều nhà Hán ở quá xa, nên không muốn rời đến. Trương Khiên bèn cử phó sứ đi hoạt động ngoại giao tại các nước Đại Uyển, Khang Cư, Đại Nguyệt Thị, An Tức, Thân Độc v v, thuộc Tân Cương ngày nay, họ đã đặt chân tới các vùng của trung Á và tây nam Á, có sứ giả đi xa nhất đã tới đế quốc La Mã và bắc Phi ở ven bờ Địa Trung Hải.

Năm Nguyên Đỉnh thứ 2, tức năm 115 trước công nguyên, vua U Sun đã cử phiên dịch và hướng đạo hộ tống Trương Khiên về nước, cùng đi còn có mấy chục sứ giả U Sun, đây là người Tây vực lần đầu tiên đến Trung Nguyên, vua U Sun dâng biếu Hán Võ Đế mấy chục con ngựa quý. Nhà vua rất vừa ý liền phong Trương Khiên làm Đại Hành, phụ trách việc tiếp đón sứ giả và khách các nước. Hai năm sau Trương Khiên qua đời, các sứ giả do ông cử đi sau đó cũng nối tiếp nhau dẫn sứ giả các nước đến Tràng An, triều nhà Hán và các nước Tây vực đã thiết lập nên quan hệ hữu hảo, sản vật của các nước cũng do đó ùn ùn tiến vào Trung Nguyên.