1939年1月，彭雪楓率新四軍游擊支隊挺進(jìn)敵后，進(jìn)駐永南書案店。湖西人民抗日義勇隊第二總隊第二支隊（即永城抗日游擊隊）支隊長魯雨亭聞訊立即派陳覺民前往聯(lián)系，隨后又派王卓然帶領(lǐng)30多名青年到游擊支隊隨營學(xué)校學(xué)習(xí)。

2月，黨組織派朱松齡回到游擊隊發(fā)展黨員，建立黨組織。4月，支隊首長派張先舟、杜豪杰來幫助工作。魯雨亭即委張先舟為參謀兼教育長，讓陳覺民協(xié)助開辦訓(xùn)練班，訓(xùn)練游擊隊和地方基層干部。干訓(xùn)班開辦3期，共培訓(xùn)干部300余人，發(fā)展50多名黨員。

不久，八路軍一一五師蘇魯豫支隊也越過隴海路，活動在永、蕭、碭、夏等縣，援助游擊隊作戰(zhàn)，代魯雨亭培訓(xùn)干部。

此時，游擊隊的成份發(fā)生了質(zhì)的變化，廣大基層官兵都希望歸編新四軍。張先舟和魯雨亭促膝談心，他在地上畫出3個圓圈，表示國民黨頑固派、中間派和以共產(chǎn)黨為代表的抗日進(jìn)步力量，他笑著問魯雨亭愿意站在哪個圈里？魯雨亭毫不遲疑地指向左邊的那個圈，即以共產(chǎn)黨為代表的抗日進(jìn)步力量。魯雨亭說：“我的決心下定了，走共產(chǎn)黨的路，請求編入新四軍?！?/strong>

8月10日，游擊支隊參謀長張震率部進(jìn)駐順和集附近蔣莊，魯雨亭往蔣莊見張震，交談游擊隊改編問題，并遞交了入黨申請書。

他說：“我在自己的經(jīng)驗中，在雜亂無章的工作中，一直在探索中國革命的前途，印證著中共的策略、路線。我深信，要救國救民及達(dá)到世界人類真正和平與幸福，自己只有站在馬克思列寧主義的旗幟下堅決接受黨的領(lǐng)導(dǎo)?！?/strong>

8月18日，魯雨亭在芒碭山南麓均慶寺召開游擊隊全體干部會。他著重講了“為什么要歸編新四軍，以及新四軍在皖北豫東所負(fù)的任務(wù)”，還提醒大家要防止“地域觀念的錯誤”。

23日，魯雨亭率隊從山城集出發(fā)，經(jīng)劉河、茴村、李口，于27日到達(dá)書案店，受到軍民熱烈歡迎。28日，魯雨亭會見了游擊支隊副司令員吳芝圃，洽談部隊編制一事。

29日，魯部966人被正式改編為新四軍游擊支隊第一總隊，代號“友愛”，魯雨亭任總隊長。支隊派孔石泉任政委，許遇之任參謀長。同時，經(jīng)張震、張先舟介紹，魯雨亭被中共中央批準(zhǔn)為中共預(yù)備黨員，預(yù)備期6個月。

魯雨亭十分高興，連續(xù)給父親寫信，說：“今與共產(chǎn)黨同志一道抗戰(zhàn)，數(shù)年志愿今日得遂，父訓(xùn)無違，兒心甚快。今上有彭司令熱誠領(lǐng)導(dǎo)，又有吳副司令循循善誘，為兒精確導(dǎo)師，更有蕭（望東）張（震）兩同志之多方指示，良師益友，共事共處，事業(yè)前途，希望甚多?！?/strong>

又說：“今參加共產(chǎn)，得入正途，定要專心致志，努力工作。家人生活，唯我父母操之。兒之在黨的工作未能完成以前，不成功，便成仁。兒不念家，父母也不必以兒為念?！睗M腔以身報國的摯情躍然紙上。

9月3日，魯雨亭奉命率部東征，解決雜八隊王景玉和鄭席卿部爭端。5日，進(jìn)駐宿西楊營子、東西馬莊，分別致函鄭席卿和王景玉曉以大義，規(guī)勸雙方?；鹣?zhàn)，參加新四軍合作抗日。鄭席卿即率部200余人歸編，而王景玉不聽勸告，復(fù)勾結(jié)頑匪竇殿臣部攻鄭席卿，旋被一總隊擊潰，收容該部200余人，王率殘部東逃。

10月1日，在紀(jì)念支隊出征周年大會上，魯雨亭代表一總隊全體指戰(zhàn)員，向兄弟部隊提出挑戰(zhàn)：“來一個打大勝仗比賽！捉俘虜比賽！”他說“明年的今天，我們要詳細(xì)地計算這個賬目?！彼闹v話博得全場經(jīng)久不息的掌聲。

游擊隊經(jīng)過改編和整訓(xùn)，政治素質(zhì)和戰(zhàn)斗力大提高。魯雨亭本人，在革命大家庭里心情舒暢，時刻準(zhǔn)備著帶領(lǐng)一總隊健兒，投入新的戰(zhàn)斗。

1939年10月3日，魯雨亭奉命率領(lǐng)一總隊健兒，由梅廟回師芒碭山區(qū)，以嶄新的戰(zhàn)斗姿態(tài)，投入了開辟夏永碭抗日根據(jù)地的戰(zhàn)斗。18日，魯雨亭派部遠(yuǎn)道奔襲隴海鐵路的黃口、李莊兩車站，又于21日消滅了雜八隊王景玉一部。

11月4日，一總隊奔襲夏邑縣袁樓偽據(jù)點，搗毀了大漢奸張子航的老巢，斃敵70余名，繳獲槍支、馬匹等大量戰(zhàn)利品；16日，俘獲盤踞永夏邊境的匪首陳超甫以下40余人槍；22日，攻打夏邑縣東關(guān)及附近王老家之偽軍，以少勝多，擊潰偽軍一個團，俘虜200余人槍。27日，進(jìn)擊永北偽軍竇殿臣部，斃傷敵40余人。30日夜，奔襲碭南大房莊，斃敵橫山少佐以下20余名。

12月14日，在夏邑縣郭莊殲滅偽軍20余名、俘14名。24日，擊退進(jìn)犯丁樓、竇樓的王白樓據(jù)點之日偽軍。

2月中旬，一總隊連續(xù)攻破鴨子圈、邵寨，擊潰頑匪馬子良、楊昆山、邵蓮花部。碭南地下黨員王次青、王志惠率兩個中隊歸來，編為一總隊獨立營，王次青任營長，開辟了碭南游擊區(qū)。

2月26日，鬼子汽車10輛、坦克兩輛，向我芒碭山區(qū)進(jìn)犯，一總隊在僖山與敵展開激戰(zhàn)，擊毀敵汽車兩輛。傷亡慘重之?dāng)忱仟N回竄。營長鄭席卿政委陳迎榮光榮負(fù)傷。

3月7日，在張小樓俘土頑34人，繳獲機槍兩挺，步槍30余支。8日，在錢莊消滅土頑一個奮勇隊。

在短短幾個月內(nèi)，魯雨亭率領(lǐng)一總隊，東殺西戰(zhàn)，打擊日偽，消滅專門磨擦的土頑，開辟了夏永碭抗日根據(jù)地。在戰(zhàn)斗中，部隊也發(fā)展壯大到兩個團，共2997人。

為使部隊更好地開展平原游擊戰(zhàn)爭，魯雨亭還帶領(lǐng)一總隊協(xié)助群眾開挖抗日溝，改造地形。在和群眾一塊挖溝、共同抗敵的實踐中，他深刻認(rèn)識到“共產(chǎn)黨所領(lǐng)導(dǎo)的部隊之所以有力量，就在于他和人民群眾血肉相連，為群眾所愛戴”，懂得了共產(chǎn)黨所領(lǐng)導(dǎo)的新四軍和舊軍隊的根本區(qū)別。

魯雨亭十分重視部隊的紀(jì)律性。1940年1月15日，他在張雙樓當(dāng)眾槍斃貪污分子望純古。25日，又槍斃了盜賣馬料的郝存良，以此儆戒效尤，教育戰(zhàn)士。

他常給干部、戰(zhàn)士上政治課，作報告。黨員會上，他講歷史唯物主義；干部會上，他講反對自由主義；到教導(dǎo)隊，他講怎樣做一個革命軍人，提出“貧賤不能移，富貴不能淫，威武不能屈”三項原則，作為對干部、戰(zhàn)士的基本要求。

他深入連隊，考問政治課及識字成績，并審閱干部日記，號召“學(xué)習(xí)第一！進(jìn)步第一！團結(jié)第一！”他說：“沒有革命的政治工作，單靠武器是不能戰(zhàn)勝敵人的。政治工作運用得當(dāng)，勝于十萬兵力?！边@表現(xiàn)了他在政治上的成熟程度。

他自己也善于學(xué)習(xí)，力求進(jìn)步。在梅廟整訓(xùn)時，司令員彭雪楓送他一部《聯(lián)共（布）黨史簡明教程》，他如獲至寶，日夜攻讀。一天，他讀至深夜，警衛(wèi)員告訴他“雞叫了，天快亮了”，勸他休息。他說：“這是更雞，再讀一會兒。”他經(jīng)常讀的書，還有《論持久戰(zhàn)》等。

1940年2月17日至19日，支隊召開黨的活動積極分子大會，他認(rèn)真聽報告，記筆記，勇于批評與自我批評。一天晚上，他到彭雪楓住室長談至深夜。他說：“我有一次對人家說，抗戰(zhàn)勝利后，我們的任務(wù)也就完成了。以后我領(lǐng)悟到這句話的不對，這恰恰代表了我本階級的利益觀點。而不知民族解放之后，無產(chǎn)階級還需要社會解放?。　边@表明他的階級覺悟巳上升到一個新高度。

他為鞏固夏永碭抗日民主政權(quán)日夜奔波，不斷參加地方干部會，商討如何健全行政機關(guān)，如何建立地方武裝；經(jīng)常召開軍民聯(lián)歡會、開明士紳會，密切軍民關(guān)系，開展統(tǒng)戰(zhàn)工作。他說：“夏邑、碭山是新開辟的根據(jù)地，工作一件接著一件，都要我們負(fù)責(zé)?！?/strong>

魯雨亭充滿了必勝的信心，憧憬著新中國的美好未來。一天。行軍至芒碭山南麓，他手指群山，對副官主任何叔朗說：“抗戰(zhàn)勝利后，建議在芒碭山建個縣，把這古校場挖成湖，中間建個亭子，架上浮橋，再栽上蓮花、垂柳，你看該多美?。　?/strong>

一總隊在魯雨亭指揮下，給日偽頑沉重打擊，直接威脅了徐州之?dāng)?。敵人把魯雨亭和一總隊視為眼中釘、肉中刺，一再進(jìn)行瘋狂“掃蕩”。

1940年3月中旬，永、夏、蕭、碭和黃口車站之?dāng)?，增添兵力，并新設(shè)宋河、張大屯、王白樓、大吳集、祖老樓、李石林等據(jù)點，形成對芒碭山區(qū)的包圍。鐵蹄所至，燒殺淫掠，廬舍為墟。魯雨亭遵照支隊“以堅決果敢迅速的動作，實行猛擊而疲憊之，麻痹之，務(wù)求殲滅之，收復(fù)各據(jù)點”的命令，率領(lǐng)一總隊配合兄弟部隊，投入了反“掃蕩”的戰(zhàn)斗。

3月23日，一總隊一部，在永碭公路的孫莊蔣莊伏擊由永赴碭的日軍御問團汽車7輛，斃敵佐野聯(lián)隊長、北山大尉以下60余名，擊毀敵汽車兩輛。同一天，又派部隊襲擊碭山偽軍，俘敵14人，繳獲長短槍11支。

25日，一總隊一部于丁樓、邸樓截?fù)敉醢讟俏鞣钢當(dāng)?，斃?0余名，獲馬6匹。25日夜，進(jìn)襲李石林據(jù)點，斃敵40余名。29日，夜襲王白樓據(jù)點，斃敵10余名。

31日上午，在永碭公路的閻井、孫莊寨，伏擊由碭赴永之?dāng)称?輛，擊毀3輛，斃傷敵70余名。同日夜，派出小部隊，分頭襲擊李石林、祖老樓、小王集、宋河和大房莊等敵偽據(jù)點，計斃敵70余名。

僅半月時間，魯雨亭指揮一總隊，多次給敵以沉重打擊，取得殲敵300余名的戰(zhàn)果。

敵人惱羞成怒瘋狂報復(fù)。4月1日晨，敵汽車30余輛，步騎兵3000余人，由永城、碭山、黃口車站、王白樓、張大屯等據(jù)點，兵分4路向芒碭山區(qū)分進(jìn)合擊，與我駐該地區(qū)的一總隊、三總隊及蕭工隊一部激戰(zhàn)于磨山、僖山、陶山、柿園、王樓一帶。

這時，一總隊司令部駐窯山集；其一團劉子仁部駐守保安山南麓之茅橋、柿園一線；二團孔慶同部駐守夫子山西側(cè)之呂樓一線。為了跳出敵人的包圍圈，變內(nèi)線作戰(zhàn)為外線作戰(zhàn)，魯雨亭命令副官主任何叔朗率領(lǐng)司令部非戰(zhàn)斗人員向正北宗樓方向突圍，自率特務(wù)連和通訊排、偵察排沿王引河向南突圍。

當(dāng)他指揮部隊進(jìn)抵李黑樓東南時，前面兩個尖兵排已越過王棗園跳出敵人包圍圈，他所率本部卻被敵攔截在王引河內(nèi)。在激烈的戰(zhàn)斗中，參謀長許遇之、參謀張衛(wèi)民等6人負(fù)傷，魯雨亭的鼻子也被炮彈碎片擦傷，鮮血染紅了他的絡(luò)腮胡子。他命令特務(wù)連副連長葛慶之，集中火力把敵人壓下去，然后指揮部隊順著抗日溝迅速搶占了李黑樓。

李黑樓位于芒碭山西南麓、王引河西岸，小白河由村東北繞向西南，村周圍有數(shù)尺深的寨壕，四面八方有抗日溝相通，易守難攻。進(jìn)村后，魯雨亭堅守在村南土圩墻外指揮，命令參謀朱浩帶6名戰(zhàn)士堅守村東南側(cè)的小石橋，政委孔石泉在村西北指揮布防，參謀魯庭芝指揮剛轉(zhuǎn)移至村內(nèi)的二團二連在村西南布防，與進(jìn)入村內(nèi)的蕭縣洪河大隊配合作戰(zhàn)。

戰(zhàn)斗開始不久，魯雨亭連續(xù)派人通知一團團長劉子仁協(xié)同作戰(zhàn)，但劉只稍加抵抗便經(jīng)柿園、丁窯突圍出走，向夏邑縣境轉(zhuǎn)移。三總隊、蕭支隊以及駐守在陶山的一總隊楊鹿鳴營，均在激戰(zhàn)后撤出戰(zhàn)斗，致使敵人得以調(diào)集各路兵力大舉圍攻李黑樓。

敵先發(fā)起試探性進(jìn)攻，我稍作還擊，敵即撤退。敵很快發(fā)起第二次進(jìn)攻，大批敵人猛撲上來，我輕重武器一齊開火，打退了敵人的又一次進(jìn)攻。兩次交戰(zhàn)，敵已知我方兵力、火力部署，因而第三次進(jìn)攻更加猛烈。

魯雨亭沉著指揮，命令從小白河陣地撤至路溝的二連，與堅守小石橋的朱浩等7同志，構(gòu)成交叉火網(wǎng)，狠狠打擊進(jìn)攻之?dāng)?。敵人陳尸遍野，第三次進(jìn)攻又被粉碎。

魯雨亭往來指揮，哪里戰(zhàn)斗激烈他就出現(xiàn)在哪里，并振臂高呼：“我們要死守陣地，不讓敵人前進(jìn)一步！李黑樓就是我們的墳?zāi)梗覀円c陣地共存亡！”戰(zhàn)士們齊聲應(yīng)和：“我們愿和總隊長死在一塊！”情緒高昂，士氣旺盛。

傍晚，敵發(fā)起更大規(guī)模的進(jìn)攻，猛攻小石橋陣地上。炮彈炸翻了小石橋，掀翻了泥土，敵人以30余人的代價占領(lǐng)了小石橋。我守橋戰(zhàn)士被迫撤退。

敵占小石橋后，以全部兵力壓向李黑樓，并施放了煙幕彈。整個陣地淹沒在彌漫的煙霧中。戰(zhàn)斗從晨至晚整整一天，戰(zhàn)士們滴水未進(jìn)，陣地前躺著300多具敵尸，而我軍陣地上也只有幾十人在堅持戰(zhàn)斗。

魯雨亭聲音嘶啞，渾身泥土，軍帽脫落了，蓬松著頭發(fā)，眼里噴著火焰，手握著冒煙的快慢機匣槍，不斷地從這個陣地跳向那個陣地，指揮戰(zhàn)士們向敵人射擊，反復(fù)沖殺，反復(fù)爭奪，打退了敵人的多次進(jìn)攻。

夕陽西下，敵人發(fā)動總攻，潮水般涌向我軍陣地。魯雨亭率領(lǐng)戰(zhàn)士們，在炮火硝煙里同敵人拼搏。在戰(zhàn)斗即將結(jié)束之際，他卻倒在李黑樓東門外的寨壤里。

4月14日下午，新四軍六支隊司令部在新興集“精忠堂”舉行魯雨亭追悼大會，會場布滿花圈挽聯(lián)。彭雪楓司令員致悼詞時，贊頌魯雨亭“是執(zhí)行黨的政策和決定的模范，是個人服從組織、黨員個人利益服從黨的利益的模范，是擁護黨的決議、服從黨的紀(jì)律的模范，是效力以為黨，精忠以報國的模范。”