此战成功的关键在于商人聂太壹能否将匈奴诱入伏击圈。聂太壹以出塞经商为名，游走在汉匈之间，能察言观色，处事圆滑。聂太壹欺骗伊稚斜单于说，他有手下数百人，能斩杀马邑县令，举城而降，牲畜财物可尽归匈奴，但匈奴一定要派大军前来接应，以防汉兵。伊稚斜单于贪图马邑城的财物，亲率十万大军进入武州塞，并派使者随聂太壹先入马邑，等斩杀马邑县令后再进兵。聂太壹随后返至马邑与县令密谋，杀死一名囚犯，割下首级悬挂在城门之上，伪装为县令头颅，欺骗匈奴使者。
伊稚斜单于得到使者的报告后，遂率领大军向马邑方向进军。大军来到距马邑百余里的地方，发现沿途有牲畜活动，却无人放牧，这引起了伊稚斜单于的警觉。伊稚斜下令匈奴前锋部队攻下一座边防小亭，俘获了雁门尉史。在威胁下，尉史将汉军的计谋全盘说出。伊稚斜单于听后大惊继而大喜，说道：“我得到尉史不上汉天子的当，真是上天所赐”。于是封尉史为“天王”，下令立即撤军。
王恢、李息率领的3万大军已到达代郡，准备袭击匈奴的辎重，焚其粮草，以断匈奴后路。二人在得知匈奴退兵后，非常惊奇。王恢自思自己的军队敌不过匈奴大军只好退还。韩安国等率领大军分驻马邑境内埋伏，但好几天不见动静，遂改变原先的作战方案，率军出击，结果一无所获。
一场轰轰烈烈的伏击战，就这样草草结束。伊稚斜率领匈奴骑兵安然退走，三十万汉军劳而无功。