四月初，就在張全準備出兵的時候，長安傳來消息，大將軍衛青病故。衛青病了多年，病情時好時壞，所以這個消息也不算太突然。不過這麼多年了，衛青一直是漢軍中的精神支柱，軍中許多將軍都是跟著他一刀一槍殺出來的。得到這個消息，張全又歇兵十日，率領全軍在漁陽祭奠大將軍。
十日之後，張全從漁陽正式起兵，進攻東胡南部地區。三日後，趙破虜也從狼居胥山的受降城起兵，進攻東胡西部和北部地區。
趙破虜之所以遲了幾天，是因為進行了長時間的戰前動員。在張全的建軍思想中，不應該出現單一民族自成一軍的情況，而是採取各民族混編，而且漢人的比例應該佔八成以上，騎兵部隊中，漢人的比例也應該不低於五成。不過這次，趙破虜帶出的這五萬邊軍鐵，匈奴及其他胡人比例高達七成，為此，劉據特別下旨，給這些臨時徵募的胡人以普通漢軍同樣的待遇，不僅有軍餉，而且受傷了有朝庭養，死了家裡也有錢拿，這在以前是從來沒有過的。
這道聖旨無疑提升了部隊的士氣，這也給了生活在邊疆的胡人一條新的出路，那就是參加漢軍，為大漢出力。
雖然漢軍在四月就出兵了，可一直到了五月，雙方還沒有進行大規模的交戰。因為北部的拓拔信一直避免與趙破虜交戰，在等待南線的結果，他希望達奚望能迅速打敗漢軍，然後北上支援他；而達奚望也在避戰，他不願現在就和士氣正旺的漢軍交戰，所以一退再退，已經撤到了東胡的中部地區。
張全就怕這樣的事，打仗他不怕，就算打敗了，可只要能削弱東胡的實力就行。不過碰到這種情況，張全也沒有急，他知道著急只能亂了自己的方寸，於是他乾脆停留在東胡南部地區，把部隊都派了出去，強行搬遷那些留在南部的東胡各部。張全也不管男女老少，反正找到一個部落就搬一個，直接派兵先把人圍了，然後抓起來交給跟在後面的邊軍步兵和民夫，讓他們回去的時候一同帶進長城，最後再統一安排，打散後分到全國各地，尤其是西疆、南越、東越等地。
張全給部隊的命令是，能不殺人就不殺人，只要能解除對方的武裝就行。張全的初衷是好的，可現實卻沒有張全想的那麼簡單，開始的時候大家是這麼做的，就算碰到幾個反抗的也沒什麼，可時間一長就出了事，先是有個別部隊的圍剿的時候遇到反抗出了人命，最後動起手來，死傷甚多。再了最後，乾脆發生了屠殺整個部落的事，不過這些都是小部落，也就百八十號人，沒有引起張全的注意，直到有一天，三千人被殺，才讓張全開始考慮軍紀的問題。
這天，張全正在佈置搜索任務，二師副師長金日磾找來了。劉徹死後，金日磾不願再留在宮中，希望能夠在疆場上建功立業，因此提出進入北軍，鑒於他在平定劉丹等人的叛亂中有功，劉據就答應了，先讓他進入虎賁營做鄭度的副手，虎賁營改編之後，他又做了二師的副師長。金日磾原本是劉徹的貼身侍衛，雖然是劉徹的近臣，但職位不高，這次能做到副師長的位置，已經算是破格提拔了。
金日磾是來找張全告狀的，原來，二師四旅的一個營在圍剿一個大點的部落時遇到反抗，結果十幾個人被殺，連屍首都沒搶回來，四旅長劉延一聽就急了，帶著十和十一兩個團就把對方圍了起來，結果那個部落拚死抵抗，四旅又死了十幾個人，到了最後，總算把局面控制住了。可劉延一看自己戰死的士兵全部被對方剁成了肉醬，完全失去了理智，下命殺光所有的人，為死去的戰士報仇。於是，整個部落近三千人全部被屠殺了。
金日磾知道了這個消息，立刻去找鄭度，要求他嚴懲劉延及其手下，可鄭度考慮到開戰在即，現在正是用人之際，不願把這事鬧大，所以找了一堆理由幫劉延等人開脫，金日磾見他不管，乾脆直接來找張全。
張全聽完了，坐在那裡沉默了半天，他知道，在鄭度他們眼裡，金日磾是個外人，許多話不願對他說，而金日磾為人又總是循規蹈矩，說句不好聽的就是死板、不盡人情。說實話，張全也不願處置劉延等人，可知道了又不能不管。
張全問金日磾：「你說應該怎麼處罰他們？」
「應該先把他們抓起來，再帶回長安交給延尉府發落。」
張全皺了皺眉頭：「部隊怎麼辦？那可是一個旅長、兩個團長，手下可有幾千號人。」
金日磾也說不上來了，他也知道，如果屠殺要定罪，參與屠殺的這兩個團至少有一半人有份。如果把這些人都抓起來，再派人把他們押送回長安，那這仗也不用打了，軍心肯定全散了。
張全見他半天不說話了，自己想了想，決定還是先把劉延他們找來，問問清楚，再想辦法解決。
時間不長，鄭度、劉延，以及他手下的兩個團長戴桓、賈淮武來到了張全的大帳，他們一進來，看到金日磾在此，立刻明白了是怎麼回事，所以張全問什麼，他們就答什麼，一點兒也沒隱瞞。
等張全問完了，在場的人也沒一個提出解決的辦法，最後還是張全提出一個折中的方法：「這樣吧，我看以後軍中就成立一個軍事法庭，像這樣的事情就交由軍事法庭來裁決，判斷有沒有罪，再按大漢律條進行處罰。我們新軍就再加一個軍法處，金副師長就調到軍法處擔任軍法長官。不過此次出兵在外，現在不宜開庭審理，我看可以把這件事先壓一壓，等部隊回到長安再組織軍事法庭進行調查處理。不知幾位意下如何？」
金日磾見張全這麼說，也沒在堅持，畢竟他也知道現在形勢緊迫，只要張全答應處理就行。而劉延等人也知道自己有做法有太多的不妥，這樣處理也是給了自己一個戴罪立功的機會，自然也沒意見。鄭度卻有意見，在他看來這是戰場，殺些人又沒什麼大不了的，不過他知道張全在皇上心目中的份量，不敢在公開場合與張全對著幹。