8月9日 國(guó)仟生態(tài)圈

2024年第四場(chǎng)專題培訓(xùn)活動(dòng)順利舉辦

此次活動(dòng)專題是

“AI大模型安全”

主辦單位：國(guó)仟醫(yī)療科技（蘇州）有限公司

國(guó)仟?jiǎng)?chuàng)業(yè)投資管理（蘇州）有限公司

本期特邀演講嘉賓：清華大學(xué)邱寒博士、董胤蓬博士

活動(dòng)背景

近兩年來(lái)，隨著ChatGPT、Sora等人工智能模型的出現(xiàn)，社會(huì)各界對(duì)AI的關(guān)注度日趨高漲。無(wú)論是科研產(chǎn)業(yè)界，還是投融資界，都對(duì)人工智能在未來(lái)人類社會(huì)的應(yīng)用充滿期待。其中醫(yī)療大健康領(lǐng)域的AI模型，有助于更快更準(zhǔn)地解決臨床剛需，因此備受關(guān)注。然而由于醫(yī)療領(lǐng)域自身的特殊性，AI模型安全至關(guān)重要，也直接影響AI模型在醫(yī)療健康領(lǐng)域的落地。

活動(dòng)回顧

針對(duì)模型安全在醫(yī)療健康領(lǐng)域人工智能產(chǎn)品中的重要意義，本次國(guó)仟生態(tài)圈主題培訓(xùn)活動(dòng)邀請(qǐng)到清華大學(xué)網(wǎng)絡(luò)研究院邱寒副教授和計(jì)算機(jī)科學(xué)與技術(shù)系董胤蓬博士，圍繞“AI大模型安全”主題進(jìn)行分享。

邱教授演講的主題是“大語(yǔ)言模型內(nèi)容安全研究”，通過(guò)實(shí)際的GPT模型案例深入淺出的介紹了大語(yǔ)言模型的發(fā)展歷史和基本原理、大模型對(duì)于有害內(nèi)容的輸出管控、大模型幻覺(jué)對(duì)垂直領(lǐng)域應(yīng)用的影響。在演講中，邱教授通過(guò)分析GPT訓(xùn)練過(guò)程，解釋了大模型的局限性、偏見(jiàn)、不安全內(nèi)容輸出的原因，認(rèn)為數(shù)據(jù)驅(qū)動(dòng)的本質(zhì)會(huì)直接影響大模型的安全性。同時(shí)邱教授認(rèn)為大語(yǔ)言模型的自回歸推理模式和模型幻覺(jué)有關(guān)，不同模型的幻覺(jué)或者人為干擾下的響應(yīng)會(huì)有不同表現(xiàn)。減少生成式人工智能的幻覺(jué)，提高模型準(zhǔn)確性，是大模型在垂直領(lǐng)域廣泛使用的主要挑戰(zhàn)，仍有較長(zhǎng)的路要走。

董博士分享的主題是“面向擴(kuò)散概率模型的安全可信研究”，董博士依靠扎實(shí)的理論功底，重點(diǎn)介紹了圖片生成領(lǐng)域的擴(kuò)散模型基本概念和分類、擴(kuò)散模型的魯棒性與安全性的判斷、模型生成圖片的安全性處理，和擴(kuò)散模型對(duì)提高圖片生成與識(shí)別魯棒性的應(yīng)用。董博士在演講中結(jié)合自己的科研經(jīng)歷，分析了多種擴(kuò)散模型的實(shí)際應(yīng)用案例和數(shù)學(xué)方法，加深聽(tīng)眾對(duì)生成式人工智能安全風(fēng)險(xiǎn)的理解。

分享過(guò)程中兩位專家和聽(tīng)眾針對(duì)不同的大語(yǔ)言模型方法、物理概念與大模型的融合、醫(yī)療數(shù)據(jù)對(duì)大模型幻覺(jué)的影響、大模型未來(lái)趨勢(shì)、如何在模型訓(xùn)練中設(shè)置提示詞等問(wèn)題展開(kāi)了熱烈討論。

當(dāng)前人工智能沖擊著傳統(tǒng)產(chǎn)業(yè)界，新的范式對(duì)于產(chǎn)品定位、產(chǎn)品內(nèi)容、產(chǎn)品研發(fā)都有巨大影響。大模型的應(yīng)用是醫(yī)療企業(yè)面臨的新機(jī)遇與新挑戰(zhàn)。期待本次交流碰撞出的火花能夠給各位企業(yè)家朋友帶來(lái)思考，助力公司在人工智能時(shí)代創(chuàng)新發(fā)展！

關(guān)于國(guó)仟

國(guó)仟醫(yī)療科技（蘇州）有限公司由張旭博士等七名在生物醫(yī)學(xué)和醫(yī)療器械領(lǐng)域成功創(chuàng)新創(chuàng)業(yè)的國(guó)家重大人才工程專家聯(lián)合其他領(lǐng)域股東共同投資設(shè)立。

國(guó)仟醫(yī)療致力于醫(yī)療器械創(chuàng)新科技產(chǎn)業(yè)投資、創(chuàng)業(yè)孵化及精準(zhǔn)賦能。全資控股的國(guó)仟?jiǎng)?chuàng)業(yè)投資管理(蘇州)有限公司，是一家專注醫(yī)療器械早期股權(quán)投資的風(fēng)險(xiǎn)投資機(jī)構(gòu)。本著“成就他人夢(mèng)想”的經(jīng)營(yíng)理念，國(guó)仟?jiǎng)?chuàng)投通過(guò)所管理的股權(quán)投資基金來(lái)進(jìn)行產(chǎn)業(yè)投資和聚集，國(guó)仟醫(yī)療通過(guò)孵化和賦能打造產(chǎn)業(yè)生態(tài)，兩大業(yè)務(wù)平臺(tái)高度協(xié)同，在蘇州高新區(qū)打造一個(gè)高端醫(yī)療器械產(chǎn)業(yè)聚集群和生態(tài)圈。