本期為TechBeat人工智能社區(qū)第672期線上Talk。

北京時(shí)間3月27日(周四)20:00，香港科技大學(xué)博士生譚安東的Talk將準(zhǔn)時(shí)在TechBeat人工智能社區(qū)開(kāi)播！

他與大家分享的主題是:“OpenCBM - 如何允許用戶用任意指定概念理解模型決策？”，屆時(shí)他將介紹一種為概念瓶頸模型配備開(kāi)放概念的新能力——“OpenCBM”。

Talk·信息

主題：OpenCBM - 如何允許用戶用任意指定概念理解模型決策？

嘉賓：香港科技大學(xué) · 博士生 - 譚安東

時(shí)間：北京時(shí)間3月27日(周四)20:00

地點(diǎn)：TechBeat人工智能社區(qū)

http://www.techbeat.net/

Talk·介紹

神經(jīng)網(wǎng)絡(luò)近年來(lái)在性能上取得了顯著進(jìn)展，但在可解釋性上仍面臨挑戰(zhàn)。為解決該問(wèn)題，概念瓶頸模型通過(guò)首先根據(jù)輸入圖像預(yù)測(cè)一組可解釋的概念，然后根據(jù)給定的概念來(lái)做出決策以提供可解釋性。然而，現(xiàn)有的概念瓶頸模型是用一組固定的概念訓(xùn)練的（概念來(lái)自于數(shù)據(jù)集標(biāo)注或語(yǔ)言模型的生成結(jié)果）。這種封閉世界的假設(shè)是不切實(shí)際的，因?yàn)橛脩艨赡軙?huì)在模型部署后想知道任意指定概念在決策中的作用。我們提出“OpenCBM”，為概念瓶頸模型配備開(kāi)放概念的能力。該模型允許用戶刪除、添加或替換任何想要的概念來(lái)理解模型的決策結(jié)果。

Talk大綱

1. 相關(guān)工作和動(dòng)機(jī)：現(xiàn)有概念瓶頸網(wǎng)絡(luò)不允許用戶任意修改用于解釋的概念集

2. 方法：通過(guò)讓模型對(duì)齊CLIP圖像隱空間間接對(duì)齊CLIP文本隱空間

3. 實(shí)驗(yàn)：主要在鳥(niǎo)類細(xì)粒度分類上展示了定性和定量的結(jié)果

Talk·預(yù)習(xí)資料

論文鏈接： https://link.springer.com/chapter/10.1007/978-3-031-73016-0_8

論文鏈接： https://arxiv.org/abs/2007.04612

論文鏈接： https://arxiv.org/abs/2405.15480

論文鏈接： https://arxiv.org/abs/2304.06129

論文鏈接： https://arxiv.org/abs/2211.11158

Talk·提問(wèn)交流

在Talk界面下的【交流區(qū)】參與互動(dòng)！留下你的打call和問(wèn)題，和更多小伙伴們共同討論，被講者直接翻牌解答！

你的每一次貢獻(xiàn)，我們都會(huì)給予你相應(yīng)的i豆積分，還會(huì)有驚喜獎(jiǎng)勵(lì)哦！

Talk·嘉賓介紹

譚安東???????????

香港科技大學(xué) · 博士生???

譚安東，香港科技大學(xué)計(jì)算機(jī)科學(xué)與工程系在讀博士生，導(dǎo)師為陳浩老師，研究方向?yàn)橐曈X(jué)和大語(yǔ)言模型的可解釋性，以第一作者在計(jì)算機(jī)頂級(jí)會(huì)議 (如ICML, ECCV, AAAI) 發(fā)表多篇論文，長(zhǎng)期擔(dān)任CVPR/ICCV/ECCV/ACM MM審稿人。

個(gè)人主頁(yè): https://www.techbeat.net/grzytrkj?id=44168

-The End-

如果你也想成為講者

自薦 / 推薦

單人Talk | 團(tuán)隊(duì)專場(chǎng) | 錄播or直播 | 閉門(mén)交流

多種方式任你選擇！

推薦講者成功也有獎(jiǎng)勵(lì)哦~

關(guān)于TechBeat人工智能社區(qū)

TechBeat(www.techbeat.net)隸屬于將門(mén)創(chuàng)投，是一個(gè)薈聚全球華人AI精英的成長(zhǎng)社區(qū)。

我們希望為AI人才打造更專業(yè)的服務(wù)和體驗(yàn)，加速并陪伴其學(xué)習(xí)成長(zhǎng)。

期待這里可以成為你學(xué)習(xí)AI前沿知識(shí)的高地，分享自己最新工作的沃土，在AI進(jìn)階之路上的升級(jí)打怪的根據(jù)地！

更多詳細(xì)介紹>>

預(yù)約本期Talk