汉初，匈奴不断南下侵掠。
公元前200年，围汉高祖刘邦于白登山（今山西大同东北），遂迫汉朝实行和亲，且岁奉贡献，并开关市与之交易。
然而，匈奴仍屡屡背约南侵，成为汉朝一大边患。
汉武帝时国力强盛，曾3次(前127、前121、前119）大举出兵反击匈奴，匈奴势力渐衰。
汉代，匈奴由于天灾、人祸及汉军的打击，发生过两次分裂：一次是公元前57年左右出现的五单于并立局面。
结果是公元前53年呼韩邪单于归汉，引众南徙阴山附近。
公元前36年，汉西域副校尉陈汤发西域各国兵远征康居，击杀与汉为敌的郅支单于，消灭了匈奴在西域的势力。