自殺前，黃百韜拿出名片一張，在背后寫上“黃百韜盡忠報國”，交給國民黨第25軍副軍長楊廷宴，請其轉(zhuǎn)交蔣介石。至此，黃百韜兵團12萬人，全部被華東野戰(zhàn)軍殲滅。望眼欲穿的援兵沒來，12萬大軍喪失殆盡，黃百韜完全失去頑抗的最后勇氣和信心了。“22日黃昏，黃百韜指揮156師殘部，企圖向西北方向突圍。”徐法全回憶，因為40公里之外，就是企圖增援而被解放軍阻擊的李彌兵團。

當(dāng)黃百韜逃至尤家湖南面的一片葦塘?xí)r，解放軍“全殲黃兵團，活捉黃百韜”的喊殺聲又起。當(dāng)時就在黃百韜身邊的國民黨第25軍代理軍長、后來被俘的楚軒吾回憶：“黃百韜這時已經(jīng)完全失去了最初的鎮(zhèn)靜。他像一頭被囚在籠子里的野獸一樣。披著軍大衣在深溝中轉(zhuǎn)來轉(zhuǎn)去。不許任何人向他轉(zhuǎn)達解放軍的勸告和遞送打到陣地上來的傳單。”徹底絕望之際，黃百韜拔槍自殺。

楚軒吾回憶：“這一槍他是從嘴里打進去的，因而保持了面部的完整。鮮血翻著泡沫從他嘴里流出來，他兩眼老淚橫流地看著我，已經(jīng)什么話也說不出來了。”楚軒吾回憶：“我將他的頭緊緊抱在懷中，他眼睛中的神色在迅速地消失，猛然頭一歪，手槍嘩啦一聲掉在了凍硬的土地上，黃百韜就這樣死在我的懷中，我將他慢慢放在地上。脫下大衣覆蓋在他的臉上。”自殺前，拿出名片一張，在背后寫上“黃百韜盡忠報國”，交給國民黨第25軍副軍長楊廷宴，請其轉(zhuǎn)交蔣介石。

至此，黃百韜兵團12萬人，全部被華東野戰(zhàn)軍殲滅。據(jù)戰(zhàn)后化裝逃跑的楊廷宴回憶，黃百韜臨死前對他說：“我有三不解：(一)我為什么那么傻，要在新安鎮(zhèn)等待第44軍兩天;(二)我在新安鎮(zhèn)等兩天之久，為什么不知道在運河上架設(shè)軍橋;(三)李彌兵團既然以后要向東進攻來援救我，為什么當(dāng)初不在曹八集附近掩護我西撤。”對黃百韜而言，他的“三不解”，永遠不可能找到答案。

在黃百韜的追悼會上，蔣介石痛哭“黃埔精神不死”。“這是一個笑柄。”王楚英說，因為黃百韜并不是黃埔軍校畢業(yè)生，蔣介石的意思是希望以黃埔軍校生為主的嫡系之中，也有人能如黃百韜一樣戰(zhàn)死沙場，成全黃埔軍校的面子。具有諷刺意味的是，1個月之后，蔣介石的黃埔好學(xué)生——第12兵團司令黃維，就是不“殺身成仁”，活生生地成了解放軍的俘虜。