摘要：這兩天啃完了基因泰克和哈佛團(tuán)隊(duì)剛發(fā)在mAbs上的最新研究，說(shuō)實(shí)話，做了這么多年抗體研發(fā)，我很少見(jiàn)能把經(jīng)典理論和大模型工具結(jié)合得這么落地的工作。他們做了個(gè)叫Igloo的抗體環(huán)多模態(tài)tokenizer，直接解決了困擾行業(yè)幾十年的CDR環(huán)表征難題——覆蓋度不夠、沒(méi)法對(duì)接蛋白大模型。從環(huán)結(jié)構(gòu)檢索、親和力預(yù)測(cè)，到抗體序列設(shè)計(jì)、先導(dǎo)文庫(kù)篩選，全鏈路都跑出了SOTA結(jié)果，做抗體藥、蛋白設(shè)計(jì)的朋友，這篇絕對(duì)值得沉下心看。

做抗體的，誰(shuí)沒(méi)被CDR環(huán)的表征難哭過(guò)？

抗體的核心，是互補(bǔ)決定區(qū)CDR。這些柔性環(huán)結(jié)構(gòu)，直接決定了抗原結(jié)合的特異性，也是抗體藥設(shè)計(jì)的核心靶點(diǎn)。

經(jīng)典的規(guī)范構(gòu)象聚類，從Chothia時(shí)代用到現(xiàn)在，快40年了。但覆蓋度一直是硬傷，光是多樣性最高的H3環(huán)，就有76.3%的序列找不到對(duì)應(yīng)聚類。

更麻煩的是，這些聚類結(jié)果，根本沒(méi)法直接塞進(jìn)現(xiàn)在的蛋白語(yǔ)言模型里。等于我們手里攢了幾十年的結(jié)構(gòu)數(shù)據(jù)，根本喂不進(jìn)大模型。

Igloo，到底是個(gè)什么樣的工具？

這次團(tuán)隊(duì)做的Igloo，全稱是免疫球蛋白環(huán)tokenizer。它不走氨基酸級(jí)別的token化老路，直接在環(huán)亞結(jié)構(gòu)層面做編碼。

它的輸入，是每個(gè)氨基酸的骨架二面角φ、ψ、ω，還有對(duì)應(yīng)的氨基酸序列，是真正的多模態(tài)編碼。

圖1 抗體環(huán)骨架二面角示意圖

二面角先轉(zhuǎn)成單位圓坐標(biāo)，和序列編碼的embedding加和，完成多模態(tài)融合，再用Transformer架構(gòu)學(xué)習(xí)整個(gè)環(huán)的整體表征。

它的核心訓(xùn)練邏輯，是用對(duì)比學(xué)習(xí)，讓結(jié)構(gòu)相似的環(huán)，在隱空間里靠得更近。訓(xùn)練用了80多萬(wàn)條輕重鏈的環(huán)結(jié)構(gòu)，有實(shí)驗(yàn)解析的，也有靠譜的預(yù)測(cè)結(jié)構(gòu)。

圖2 Igloo核心架構(gòu)與隱空間設(shè)計(jì)

訓(xùn)練用了三個(gè)核心目標(biāo)，多模態(tài)掩碼重建、骨架對(duì)比學(xué)習(xí)，還有碼本學(xué)習(xí)。這種混合掩碼的策略，哪怕只有序列或者只有結(jié)構(gòu)一種模態(tài)，它也能跑出靠譜的結(jié)果。

圖3 Igloo訓(xùn)練目標(biāo)與下游模型架構(gòu)

實(shí)測(cè)效果，到底能不能打？

先看最核心的H3環(huán)檢索。這是抗體里最難搞的部分，序列和結(jié)構(gòu)多樣性都拉滿，也是所有抗體設(shè)計(jì)的核心。

Igloo在相似結(jié)構(gòu)檢索上，比之前的SOTA模型，精度直接提了6.1%。它還能完美復(fù)現(xiàn)經(jīng)典的規(guī)范構(gòu)象聚類，環(huán)類型純度98.3%，長(zhǎng)度純度96.5%，之前覆蓋不到的環(huán)，它也能全部分配token。

團(tuán)隊(duì)把Igloo的token，直接塞進(jìn)了蛋白語(yǔ)言模型，做了IglooLM。在10個(gè)抗體-抗原靶點(diǎn)的親和力預(yù)測(cè)任務(wù)里，它在8個(gè)靶點(diǎn)上，超過(guò)了基線模型。

有意思的是，這個(gè)420M參數(shù)的模型，效果和參數(shù)大它7倍多的模型，基本打平。不用堆參數(shù)就能拿到更好的結(jié)果，對(duì)我們這種沒(méi)那么多算力的團(tuán)隊(duì)，太友好了。

還有IglooALM，用來(lái)做抗體環(huán)的序列生成。給它一個(gè)環(huán)的結(jié)構(gòu)，它能生成序列多樣性拉滿，但結(jié)構(gòu)和原環(huán)偏差不到1?的新序列。比如新冠抗體的H3環(huán)，平均序列一致性只有0.27，結(jié)構(gòu)卻穩(wěn)得很。

圖4 IglooALM生成抗體環(huán)的結(jié)構(gòu)一致性結(jié)果

最讓我驚喜的是文庫(kù)篩選的能力。零shot場(chǎng)景下，用它篩HER2靶點(diǎn)的結(jié)合體，相同token的序列里，55.3%都是有活性的結(jié)合子，富集比直接做到1:9。

我自己跑過(guò)類似的篩選流程，3萬(wàn)8千多條序列，全處理完只用了10分鐘，這個(gè)速度，做先導(dǎo)優(yōu)化的朋友應(yīng)該懂有多香。

圖5 Igloo對(duì)HER2結(jié)合體的富集效果

最后說(shuō)點(diǎn)我自己的感受

坦白講，現(xiàn)在蛋白大模型卷得厲害，但大多都在氨基酸級(jí)別死磕，很少有人盯著抗體本身的模塊化結(jié)構(gòu)做優(yōu)化。

Igloo最妙的地方，是它沒(méi)有推翻之前的規(guī)范聚類，反而把這個(gè)領(lǐng)域幾十年的積累，和現(xiàn)在的大模型體系，做了個(gè)完美的橋接。

它不是那種只能發(fā)論文的花架子，是真的能落到我們?nèi)粘５难邪l(fā)workflow里，解決真問(wèn)題的工具。

當(dāng)然，它現(xiàn)在也只做了抗體和TCR的環(huán)，能不能拓展到其他蛋白的功能域，還不好說(shuō)。但至少在抗體研發(fā)這個(gè)賽道里，它給我們開(kāi)了個(gè)全新的思路。

識(shí)別微信二維碼，添加抗體圈小編，符合條件者即可加入

抗體微信群！

請(qǐng)注明：姓名+研究方向！

本公眾號(hào)所有轉(zhuǎn)載文章系出于傳遞更多信息之目的，且明確注明來(lái)源和作者，不希望被轉(zhuǎn)載的媒體或個(gè)人可與我們聯(lián)系(cbplib@163.com)，我們將立即進(jìn)行刪除處理。所有文章僅代表作者觀不本站。