西班牙納瓦拉大學(xué)（University of Navarra）數(shù)據(jù)科學(xué)與人工智能研究所（DATAI）的研究人員發(fā)布了一種創(chuàng)新方法，該方法提高了用于關(guān)鍵決策的人工智能模型的公平性和可靠性。這些決策對(duì)人們的生活或組織的運(yùn)營有著重大影響，例如在衛(wèi)生、教育、司法或人力資源等領(lǐng)域。

這個(gè)由研究人員阿爾韋托·加西亞·加林多、馬科斯·洛佩斯·德·卡斯特羅和魯本·阿馬尼亞薩斯·阿內(nèi)迪略組成的團(tuán)隊(duì)開發(fā)了一個(gè)新的理論框架，用于優(yōu)化可靠機(jī)器學(xué)習(xí)模型的參數(shù)。這些模型是能夠透明地進(jìn)行預(yù)測并確保一定置信水平的人工智能算法。在這項(xiàng)成果中，研究人員提出了一種能夠減少與種族、性別或社會(huì)經(jīng)濟(jì)地位等敏感屬性相關(guān)的不平等現(xiàn)象的方法。

這項(xiàng)研究成果發(fā)表在《機(jī)器學(xué)習(xí)》（Machine Learning）雜志上。它將先進(jìn)的預(yù)測技術(shù)（共形預(yù)測，一種新型的預(yù)測技術(shù)，可在一定程度上提高預(yù)測的準(zhǔn)確性和可靠性）與受自然進(jìn)化啟發(fā)的算法（進(jìn)化學(xué)習(xí)，一種借鑒自然進(jìn)化原理的算法）相結(jié)合。衍生出的算法提供了嚴(yán)格的置信水平，并確保不同社會(huì)和人口群體之間的公平覆蓋。因此，這個(gè)新的人工智能框架能確保結(jié)果公平無偏見，無論個(gè)體有何特征，都能提供相同的可靠性水平。

“由于可能存在算法歧視，人工智能在敏感領(lǐng)域的廣泛應(yīng)用引發(fā)了倫理方面的擔(dān)憂，”納瓦拉大學(xué)DATAI項(xiàng)目的首席研究員阿內(nèi)迪略解釋道。

“我們的方法使企業(yè)和公共政策制定者能夠根據(jù)自身需求選擇兼顧效率與公平的模型，或者應(yīng)對(duì)新出現(xiàn)的法規(guī)。這一突破是納瓦拉大學(xué)致力于培育負(fù)責(zé)任的人工智能文化、推動(dòng)該技術(shù)合乎倫理且透明使用的一部分?！?/p>

在實(shí)際場景中的應(yīng)用

研究人員在四個(gè)具有不同特征的基礎(chǔ)數(shù)據(jù)集上測試了這種方法，這些數(shù)據(jù)集來自與經(jīng)濟(jì)收入、再次犯罪情況、再次住院情況和入學(xué)申請(qǐng)相關(guān)的現(xiàn)實(shí)領(lǐng)域。結(jié)果表明，新的預(yù)測算法顯著減少了不平等現(xiàn)象，而且沒有影響預(yù)測的準(zhǔn)確性。

納瓦拉大學(xué)數(shù)據(jù)與人工智能項(xiàng)目的博士前研究員、該論文的第一作者阿爾貝托·加西亞·加林多指出：“在我們的分析中，例如，我們發(fā)現(xiàn)入學(xué)申請(qǐng)預(yù)測中存在驚人的偏差，這表明基于家庭經(jīng)濟(jì)狀況存在嚴(yán)重的不公平現(xiàn)象?！?/p>

“反過來，這些實(shí)驗(yàn)表明，在很多情況下，我們的方法成功減少了此類偏差，且未損害模型的預(yù)測能力。具體而言，通過我們的模型，我們找到了一些解決方案，在這些方案中，在維持預(yù)測的準(zhǔn)確性的同時(shí)，歧視幾乎被完全消除。”

該方法提供了最優(yōu)算法的“帕累托最優(yōu)前沿”（帕累托前沿是指在多目標(biāo)優(yōu)化問題中，所有非劣解所構(gòu)成的集合邊界，這些解在不同目標(biāo)之間進(jìn)行權(quán)衡，無法在不損害其他目標(biāo)的情況下改進(jìn)任何一個(gè)目標(biāo)），這能讓我們根據(jù)優(yōu)先級(jí)將最佳可用選項(xiàng)可視化，并針對(duì)每種情況了解算法公平性和準(zhǔn)確性之間的關(guān)系。

研究人員表示，這個(gè)創(chuàng)新在一些領(lǐng)域有很大的潛力，在這些領(lǐng)域中人工智能必須支持可靠且合乎道德的關(guān)鍵決策。加西亞·加林多指出，他們的方法“不但有助于公平，還能讓人們更深入地明白模型配置如何影響結(jié)果，這能給人工智能算法監(jiān)管方面的未來研究起到引導(dǎo)作用?！?/p>

研究人員已將研究中的代碼和數(shù)據(jù)公開，來鼓勵(lì)在這個(gè)新興領(lǐng)域進(jìn)一步做研究應(yīng)用并且提高透明度。