張樓位于安徽泗縣東北部，是淮北根據(jù)地連接東西的必經(jīng)要道，戰(zhàn)略地位十分重要。

1938年秋，日軍侵占泗城后，張樓大惡霸地主張海生投靠日軍，被委任為偽淮海省“剿匪”第6總隊司令兼自衛(wèi)團長。張海生依仗日軍支持，強拉民伕，在張樓挖圩壕、修炮樓、建據(jù)點，并以此為依托，經(jīng)常襲擾我泗睢、泗宿縣抗日根據(jù)地，先后捕殺我八路軍、新四軍干部戰(zhàn)士、民兵、群眾等百余人。周圍數(shù)十里的人民群眾無不對之切齒痛恨，盼望我軍早日拔除這一抗日根據(jù)地內(nèi)最大的漢奸據(jù)點。

在抗日戰(zhàn)爭期間，八路軍隴海南進支隊、蘇魯豫支隊共同曾于1940年4月發(fā)起攻打張樓的戰(zhàn)斗;新四軍第4師9旅25團也曾于1941年再次攻打張樓，兩次對其攻擊均因條件不成熟和附近日軍出兵增援未獲成功。隨著抗日形勢的好轉(zhuǎn)，為打破敵我長期僵持局面，暢通淮北根據(jù)地東西往來之路，新四軍決定于1944年6月再次對張樓據(jù)點張海生部發(fā)動攻擊。

張樓分前后張樓。前后張樓兩個圩子及7個外圍據(jù)點共駐有偽軍2000余人，且裝備精良。新四軍4師首長決定由9旅26團先攻克后張樓，待后張樓攻克后，再乘勝攻克前張樓。后張樓由大漢奸張海生率部400余人駐守，該據(jù)點工事堅固，圍墻高4米，墻外溝寬水深，沿圍墻筑有20多個地堡，據(jù)點四角各有一個高大堅固的碉堡。外壕溝寬約10米，壕內(nèi)埋有竹簽、三角釘?shù)任铩F里決定1營為主攻營，3營為副攻營，1營分配我所在的1連為突擊連。

戰(zhàn)斗發(fā)起前，我連在沙盤上進行了演練，旅長韋國清親自指導(dǎo)我們連沙盤作業(yè)。6月17日黃昏前，團部用炮火轟擊敵據(jù)點內(nèi)東北角的大炮樓。在炮火的掩護下，我連兵分兩路向據(jù)點內(nèi)敵人發(fā)起了猛烈沖鋒，各突擊隊按指定的任務(wù)，奮不顧身地跳下圍壕，豎起梯子，爬上了圍墻，猛擲手榴彈，大約15分鐘即突入圩內(nèi)，并迅速占領(lǐng)兩個地堡及附近陣地，打開了突破口。接著連隊的二梯隊也迅速投入了戰(zhàn)斗，連續(xù)打退了敵人的多次反沖鋒。

經(jīng)過激烈戰(zhàn)斗，我連又很快占領(lǐng)了據(jù)點內(nèi)的一片佃戶房。由于敵人大部已退守據(jù)點之大瓦房院內(nèi)繼續(xù)頑抗，并用各種火器向我突入圩內(nèi)的戰(zhàn)士猛烈掃射，部隊無法前進。為了盡快消滅敵人，我軍(9旅)及時調(diào)來一門自己制造的平射迫擊炮，用這門炮把敵人大瓦房院東北角的炮樓打開了一個洞，戰(zhàn)士們隨即勇猛沖入，以刺刀、手榴彈與敵人拼殺。此時，大瓦房院內(nèi)之敵已慌作一團，曾幾次企圖突圍。我連立即命令部隊要全殲院內(nèi)的敵人，并一鼓作氣逐屋作戰(zhàn)，全殲了院內(nèi)的敵人。此次戰(zhàn)斗共俘虜偽軍大隊長以下269人，打死64人，繳獲重機槍一挺，輕機槍4挺，擲彈筒7具，步槍362只。隨著我團攻占后張樓，前張樓守敵發(fā)生動搖逃跑，被我4師11旅殲滅。當日上午泗縣城日偽軍400余人在飛機掩護下，企圖接應(yīng)前張樓之敵突圍，又被我9旅25團殲滅。

張樓大捷后，新四軍陳毅軍長特來電祝賀，電文稱：“經(jīng)一晝夜激戰(zhàn)，將前后張樓之敵全殲，全賴你們指揮有方，全體指戰(zhàn)員用命，發(fā)揚了英勇頑強的戰(zhàn)斗作風，殊堪嘉獎……”