聯(lián)邦學(xué)習(xí)與貝葉斯神經(jīng)網(wǎng)絡(luò)的融合：魯棒且感知不確定性的分布式變分推理☆

Federated learning meets Bayesian neural network: Robust and uncertainty-aware distributed variational inference☆

https://www.sciencedirect.com/science/article/abs/pii/S0893608025000140?via%3Dihub

精彩片段

• FedUAB 融合了模糊邏輯和貝葉斯神經(jīng)網(wǎng)絡(luò)，減少了過擬合和模型漂移，對(duì)有限但多樣化的數(shù)據(jù)集非常有效。

• 創(chuàng)新的 BNN-FL 融合：先驗(yàn)選擇、高斯權(quán)重聚合、方差控制。

• FedUAB增強(qiáng)了服務(wù)器和客戶端模型，并增加了不確定性量化功能。

摘要

聯(lián)邦學(xué)習(xí)（FL）是分布式機(jī)器學(xué)習(xí)中用于數(shù)據(jù)隱私保護(hù)的常用框架。然而，當(dāng)前的聯(lián)邦學(xué)習(xí)面臨諸多問題和挑戰(zhàn)，例如客戶端數(shù)據(jù)量有限以及數(shù)據(jù)異構(gòu)性。這些問題導(dǎo)致基于客戶端訓(xùn)練的模型容易出現(xiàn)漂移和過擬合，最終聚合模型的性能僅為次優(yōu)水平。為了解決上述問題，我們提出了一種將貝葉斯神經(jīng)網(wǎng)絡(luò)（BNN）顯式集成到聯(lián)邦學(xué)習(xí)框架中的新方法。該方法能夠顯著增強(qiáng)模型的魯棒性。我們將此方法稱為 FedUAB，即“具有不確定性感知 BNN 的聯(lián)邦學(xué)習(xí)”。在 FedUAB 算法中，每個(gè)聯(lián)邦學(xué)習(xí)客戶端都使用反向傳播貝葉斯算法獨(dú)立訓(xùn)練一個(gè) BNN。近似模型的權(quán)重被建模為高斯分布，這不僅緩解了過擬合問題，也更好地保障了數(shù)據(jù)隱私。此外，我們還應(yīng)用了創(chuàng)新方法來克服貝葉斯神經(jīng)網(wǎng)絡(luò)（BNN）和模糊邏輯（FL）融合中的其他關(guān)鍵挑戰(zhàn)，例如選擇最優(yōu)先驗(yàn)分布、聚合來自多個(gè)客戶端的高斯分布權(quán)重以及嚴(yán)格管理權(quán)重方差。在模糊邏輯環(huán)境的模擬中，F(xiàn)edUAB 的服務(wù)器端全局模型和客戶端個(gè)性化模型均展現(xiàn)出卓越的性能，優(yōu)于傳統(tǒng)的模糊邏輯和其他貝葉斯模糊邏輯方法。此外，它還具備量化和分解不確定性的能力。我們的項(xiàng)目已在https://github.com/lpf111222/FedUAB/ 開源。

引言

隨著數(shù)據(jù)量激增和數(shù)據(jù)隱私問題日益凸顯，由單個(gè)服務(wù)器集中執(zhí)行復(fù)雜的學(xué)習(xí)任務(wù)已變得不切實(shí)際。聯(lián)邦學(xué)習(xí)（FL）應(yīng)運(yùn)而生，旨在應(yīng)對(duì)這些挑戰(zhàn)，并在隨后的幾年中不斷發(fā)展進(jìn)步。聯(lián)邦學(xué)習(xí)可被視為一種特殊的客戶端訓(xùn)練形式，強(qiáng)調(diào)利用本地?cái)?shù)據(jù)，無需服務(wù)器端傳輸，從而確保用戶隱私得到有效保護(hù)。通過實(shí)現(xiàn)設(shè)備端訓(xùn)練并將上傳數(shù)據(jù)限制為計(jì)算結(jié)果，可以降低敏感信息泄露的風(fēng)險(xiǎn)（Wahab et al., 2021; Yang et al., 2019）。

與集中式機(jī)器學(xué)習(xí)不同，F(xiàn)L客戶端用戶偏好、地理分布和數(shù)據(jù)收集方法的多樣性，必然導(dǎo)致客戶端訓(xùn)練數(shù)據(jù)的非獨(dú)立同分布（NonIID）屬性。因此，F(xiàn)L領(lǐng)域仍面臨諸多重要挑戰(zhàn)。本研究重點(diǎn)關(guān)注以下三個(gè)問題：

• 客戶端漂移：客戶端特定模型與總體全局模型的偏差歸因于客戶端間數(shù)據(jù)分布的不相同和非獨(dú)立性（Du et al., 2024, Jing et al., 2023）。這種情況會(huì)導(dǎo)致全局模型的性能下降和準(zhǔn)確性降低，因?yàn)榫植扛驴赡軣o法有效地促進(jìn)全局學(xué)習(xí)目標(biāo)的實(shí)現(xiàn)（Zhao et al., 2018）。

• 客戶端過擬合：單個(gè)客戶端數(shù)據(jù)量的限制可能導(dǎo)致客戶端模型訓(xùn)練過程中出現(xiàn)過擬合。在過擬合的情況下，訓(xùn)練損失迅速下降，使得模型權(quán)重難以有效更新（Li & Zhan, 2021）。FL 的過擬合模型通常表現(xiàn)為過度自信和缺乏魯棒性，在分布外（OoD）樣本上表現(xiàn)不佳。

• 數(shù)據(jù)隱私保護(hù)：FL 通常采用添加隨機(jī)噪聲作為保護(hù)隱私的方法，例如差分隱私 (DP) (Wei 等人，2020)，但對(duì)模型的權(quán)重施加隨機(jī)干擾必然會(huì)導(dǎo)致性能不可預(yù)測的下降 (Wang 等人，2023)。

本文從貝葉斯神經(jīng)網(wǎng)絡(luò)（BNN）的角度探討了上述挑戰(zhàn)。通過利用BNN，模型的魯棒性得到增強(qiáng)，本文提出的綜合方法確保了BNN在模糊邏輯（FL）中的無縫應(yīng)用，從而為模糊邏輯算法的發(fā)展做出了一定的貢獻(xiàn)。

本研究提出了一套整合并應(yīng)用模糊邏輯（FL）和貝葉斯神經(jīng)網(wǎng)絡(luò)（BNN）的綜合解決方案。BNN 與深度神經(jīng)網(wǎng)絡(luò)（DNN）的區(qū)別在于其權(quán)重的概率分配，這與 DNN 的固定值方法截然不同。這種概率建模與神經(jīng)網(wǎng)絡(luò)的結(jié)合產(chǎn)生了概率推理輸出，從而可以評(píng)估預(yù)測的不確定性。BNN 的概率推理方法也顯著增強(qiáng)了其在處理有限數(shù)據(jù)、噪聲和數(shù)據(jù)錯(cuò)配（OoD）問題時(shí)的魯棒性（Goan & Fookes，2020）。

我們充分利用貝葉斯神經(jīng)網(wǎng)絡(luò)（BNN）的優(yōu)勢(shì)，將BNN顯式集成到模糊邏輯（FL）中，而不是像dropout等方法那樣模擬BNN的效果。這種方法旨在解決非獨(dú)立同分布（NonIID）導(dǎo)致的客戶端漂移和過擬合問題。通過這種方式，我們利用概率模型權(quán)重，有望增強(qiáng)客戶端數(shù)據(jù)隱私保護(hù)。此外，該模型還保留了BNN的不確定性量化能力。我們將此解決方案命名為FedUAB（具有不確定性感知BNN的模糊邏輯）。

然而，在模糊邏輯架構(gòu)中訓(xùn)練貝葉斯神經(jīng)網(wǎng)絡(luò)（BNN）面臨諸多問題，事實(shí)上，這方面的研究相對(duì)較少。由于性能提升有限等問題，BNN目前并非研究熱點(diǎn)。要使其適用于分布式模糊邏輯場景，需要解決以下挑戰(zhàn)：

• 如何為訓(xùn)練數(shù)據(jù)有限的 FL 客戶端設(shè)計(jì)有效的損失函數(shù)來訓(xùn)練 BNN？

• 如何在 FL 服務(wù)器上聚合從不同客戶端接收的概率分布形式的模型權(quán)重？

• 最優(yōu)先驗(yàn)分布是什么？

• 我們?nèi)绾卧诒ＷC FedUAB 有效性的同時(shí)，兼顧高精度和量化不確定性的能力？

本文將逐一探討上述挑戰(zhàn)，并展示 FedUAB 的有效性。下圖 1 展示了 FedUAB 的整體架構(gòu)，其結(jié)構(gòu)與傳統(tǒng)的模糊邏輯類似，區(qū)別在于貝葉斯神經(jīng)網(wǎng)絡(luò)的訓(xùn)練、權(quán)重聚合以及不確定性評(píng)估，而這些正是本研究的創(chuàng)新之處。

本研究提出的 FedUAB 將 BNN 集成到 FL 框架中，具有以下優(yōu)勢(shì)和貢獻(xiàn)：

• 我們提出了一種在自由客戶端上訓(xùn)練貝葉斯神經(jīng)網(wǎng)絡(luò)（BNN）的方法。每個(gè)客戶端維護(hù)自己的BNN，每個(gè)權(quán)重均服從高斯分布?？蛻舳耸褂梅聪騻鞑ヘ惾~斯算法訓(xùn)練BNN模型，該算法通過優(yōu)化稱為變分自由能的壓縮指標(biāo)來更新權(quán)重。這種變分推理方法中概率采樣的隨機(jī)性也間接地保護(hù)了訓(xùn)練數(shù)據(jù)的隱私。

• 本文基于概率融合理論，提出了一種新穎的FL權(quán)重聚合方法。該方法將多個(gè)客戶端的權(quán)重（每個(gè)權(quán)重服從高斯分布）聚合為新的全局權(quán)重，這些全局權(quán)重仍然服從高斯分布。聚合后的新權(quán)重作為初始權(quán)重和先驗(yàn)信息，用于后續(xù)的FL訓(xùn)練。

• 訓(xùn)練后的 FedUAB 模型可以通過蒙特卡羅采樣獲得更高精度和量化不確定性的輸出，甚至可以將不確定性分解為偶然不確定性和認(rèn)知不確定性。

• 實(shí)驗(yàn)證實(shí)了上述 FedUAB 的優(yōu)勢(shì)，并提供了量化和分解不確定性的實(shí)際例子。

本文余下部分結(jié)構(gòu)如下：第 2 節(jié)回顧并總結(jié)了 BNN 及其與 FL 集成的相關(guān)工作。第 3 節(jié)結(jié)合圖 1 概述了 FedUAB。第 4 節(jié)描述了 BNN 在 FL 中的實(shí)現(xiàn)細(xì)節(jié)。第 5 節(jié)展示了實(shí)驗(yàn)結(jié)果。最后，第 6 節(jié)總結(jié)了全文。

原文鏈接：https://www.sciencedirect.com/science/article/abs/pii/S0893608025000140?via%3Dihub