楚汉战争时期，匈奴冒顿单于乘机扩张势力，控制了中国东北部、北部和西部广大地区，建立起统一的奴隶主政权和强大的军事机器。西汉初年，匈奴冒顿单于征服西域，设僮仆都尉，向各国征收繁重的赋税。匈奴还以西域作为军事上的据点和经济上的后盾，经常侵占汉朝的领土，骚扰和掠夺中原居民。西汉王朝的统治者在同匈奴斗争的过程中，逐渐认识到西域的重要性，特别是汉武帝即位后，从匈奴降人的口中得知西迁的大月氏有报匈奴世仇之意，但苦于无人相助，便决定沟通与西域的联系，欲联合大月氏，以夹攻匈奴，“断匈右臂”。