在窦太皇太后过世后的第二年，公元前134年，匈奴恰好遣使到汉朝要求和亲。本来想更改国策的汉武帝，在韩安国等老臣的压力下不得不再次同意修好。
一年后，大行令王恢提议，在边境城市马邑设伏，诱引匈奴军臣单于前来，再以优势兵力将其一举歼灭。在经过激烈的讨论后，汉武帝拍板同意。谁知在战役的关键时刻，汉军情报泄露，导致得知消息的匈奴人提前撤退。主持这场战役的王恢临阵犹豫，关键时刻不敢追击，导致匈奴安然而退。事后汉武帝震怒，在朝堂之上给王恢上了一场军事辩论课，逐条分析当时的军情后，最终将王恢下狱论死，王恢自杀谢罪。
这场失败的伏击战以及对相关责任人的处理，告诉了汉帝国上下两件事：第一，汉匈全面战争从此爆发了；第二，从此时起，大汉军人有进无退，畏敌不前者，死！
汉匈战争爆发初期，汉朝的表现只有一个字——惨！从公元前133年马邑诱敌战失败到公元前129年，这四年时间是汉匈战争里汉朝最惨的四年。匈奴几十万骑兵部队在汉朝边境声东击西，纵横驰骋，焚毁、杀掠城池无数，掳掠人口数万，汉朝北方边境的生产遭到极大破坏，汉军伤亡也极其惨重。仅以军事主官论，辽西一地两任太守相继阵亡，雁门两任太守殉国。主将伤亡如此，军队伤亡更不必说。这六年的固定剧本，就是匈奴人袭扰，破城，汉军赶来迎战，匈奴人跑，汉军撤回，匈奴人又杀过来。偌大的汉帝国，在几千里漫长的北部边境上，被匈奴人牵着鼻子走，打得气喘吁吁，败绩连连。