【導(dǎo)語(yǔ)】在(zài)當(dāng)今(jīn)數(shù)字(zì)化(huà)時(shí)代(dài)，人(rén)工(gōng)智(zhì)能(néng)（AI）技(jì)術(shù)正(zhèng)迅(xùn)速(sù)融(róng)入(rù)我(wǒ)們(men)的(de)生(shēng)活(huó)，從(cóng)智(zhì)能(néng)手(shǒu)機(jī)到(dào)金(jīn)融(róng)、醫(yī)療(liáo)、交(jiāo)通(tōng)等(děng)多(duō)個(gè)領(lǐng)域。然(rán)而(ér)，隨(suí)著AI應用的普及，其安全問題也日益受到關注。在第二十七屆中國科協年會上，“基於密碼學視角的人工智能安全新理論和防護體係”成為熱議話題。本文將深入探討這一交叉領域，揭示如何用密碼學的“鎖”來守護人工智能的“智慧”，確保技術進步的同時，也保障數字安全。

在當今數字化浪潮(cháo)中(zhōng)，人(rén)工(gōng)智(zhì)能(néng)(AI)技(jì)術(shù)正(zhèng)以(yǐ)前(qián)所(suǒ)未(wèi)有(yǒu)的(de)速(sù)度(dù)滲(shèn)透(tòu)到(dào)我(wǒ)們(men)生(shēng)活(huó)的(de)方(fāng)方(fāng)麵(miàn)麵(miàn)——從(cóng)智(zhì)能(néng)手(shǒu)機(jī)的(de)人(rén)臉(liǎn)識(shi)別(bié)到(dào)金(jīn)融(róng)領(lǐng)域的(de)信(xìn)用(yòng)評(píng)估(gū)，從(cóng)醫(yī)療(liáo)診(zhěn)斷(duàn)到(dào)自(zì)動(dòng)駕(jià)駛(shǐ)。然(rán)而(ér)，隨(suí)著(zhe)AI應(yīng)用(yòng)的(de)普及，其安全問題也日益凸顯。在第二十七屆中國科協年會發布的十大前沿科學問題中，“基於密碼學視角的人工智能安全新理論和防護體係”這一議題格外引人注目。本文將帶您探索這一交叉領域的奧秘(mì)，了(le)解(jiě)如何用密碼學的“鎖”來守護人工智能的“智慧”。

圖源：北京日報

AI的“阿喀琉斯之踵”

即使是再聰明的AI，也有自己的軟肋。黑客們已經找到了幾種攻擊AI的“竅門”：

1.視覺欺騙：別小看幾塊不起眼的小貼紙，它們足以讓AI“睜眼瞎”。2023年，研究人員在自動駕駛測試中發現，隻需在交通標誌上貼幾個特定圖案，AI係統就會把“停車”誤認成“限速”，這在高速行駛中可不是小問題。這類“對抗樣本”就像是給AI戴上了一副錯位眼鏡，人眼一看分明是個“STOP”，它卻自信滿滿地讀成別的字。想象一下，一輛車因為“看錯路牌”誤操作，後果不堪設想。

2.模型竊取：別以為人工智能的“大腦”隻有開發者才能碰到。2023年，有研究團隊展示了如何通過不斷向像GPT這樣的語言模型提問，然後記錄它的回答，最後竟然複刻出了一個山寨版的AI模型。這種“黑盒克隆”就像不停問大廚“你這菜怎麽做”，問著問著，把秘方和做法都扒了個幹淨。當AI越來越值錢，它的“被盜風險”也就成了現實問題。

3.數據投毒：AI雖然聰明，卻不懂分辨“好壞朋友”。2024年，研究人員在開源網站上傳了不少“帶毒”的代碼——看上去沒毛病，其實暗藏漏洞。而一些AI編程助手在學習這些代碼後，把錯誤邏輯原封不動推薦給用戶，相當於“把坑當寶送出去”。這就像你教學生做題，結果書上本身就印錯了，學生反而越學越偏，AI也是一樣，“喂什麽就學什麽”，學壞了還不自知。

密碼學：AI的防彈衣

傳統密碼學就像給數據上鎖的保險箱，而現代密碼學正在為AI打造更智能的防護：

1.同態加密：讓AI能在不解密的情況下處理加密數據。好比戴著墨鏡讀書——雖然看不清文字，但依然能理解內容。醫療AI用這種方法分析患者數據時，連醫生都看不到原始病曆。

2.安全多方計算：多家醫院可以共同訓(xun)練診斷AI，但誰都無法看到其他醫院的具體病例。就像幾個廚師合作開發新菜譜，但各自保留自己的秘方。

3.差分隱私：在數據中加入精心計算的“噪聲”。就像在人群中稍作偽裝，既不影響整體統計，又保護了個人身份。蘋果手機就用這種方法收集用戶輸入(rù)習(xí)慣(guàn)，改(gǎi)進(jìn)鍵盤(pán)預(yù)測(cè)功(gōng)能(néng)。

其(qí)實(shí)AI防(fáng)護(hù)已(yǐ)經(jīng)悄(qiāo)悄(qiāo)融(róng)入(rù)了(le)日(rì)常(cháng)生(shēng)活(huó)的(de)方(fāng)方(fāng)麵(miàn)麵(miàn)：刷(shuā)臉(liǎn)支(zhī)付(fù)時(shí)，你(nǐ)的(de)麵(miàn)部(bù)特(tè)征會被轉換成加密代碼存儲，從根源上降低信息泄露風險；智能音箱在聽取“喚醒詞”時(shí)，其(qí)他(tā)對(duì)話(huà)內(nèi)容(róng)會(huì)進(jìn)行(xíng)隱(yǐn)私(sī)處(chù)理(lǐ)，避(bì)免(miǎn)無(wú)關信息被記錄；推薦係統在分析你的購物記錄時，使用的是去身份化的群體數據，既保證推薦精準度，又守護了個人隱私邊界。

圖源：Pixabay

未來挑戰：既要聰明，又要安全

目前AI安全防護麵臨幾個現實問題：

1.效率代價：加密保護會讓AI運算速度變慢，就像穿著防彈衣跑步肯定不如穿運動服輕快。

2.標準缺失：AI安全防護還缺乏像"密碼強度提示"那樣直觀的標準。

3.攻防競賽：黑客手段不斷升級，防護措施也要持續進化。

圖(tú)源(yuán)：Pixabay

未(wèi)來(lái)的(de)AI安(ān)全體(tǐ)係(xì)，也(yě)許(xǔ)能(néng)夠(gòu)呈(chéng)現(xiàn)出(chū)更(gèng)智(zhì)能(néng)、更(gèng)堅(jiān)固(gù)、更(gèng)友(you)好(hǎo)的(de)形(xíng)態(tài)：它(tā)可(kě)能(néng)會(huì)進(jìn)化(huà)出(chū)類(lèi)似(shì)生(shēng)物(wù)的(de)“免(miǎn)疫係統”，能憑借自主學習能力精準識別潛在威脅，並迅速啟動防禦機製抵禦各類攻擊；在加密技術層麵，“量子加密”有望成為標配——這種基於量子力學原理的加密方式，其安全性將達到全新維度，即便是算力驚人的量子計算機也難以破解，為數據築起一道“無懈可擊的防線”；而“透明防護”的實現，則會讓安全機製與用戶體驗達成完美平衡——它在後台默默守護隱私的同時，完全不幹擾正常使用流程，就像一層無形的“安全防護罩”，讓人們在享受AI便利時毫無感知卻又倍感安心。

正如第二十七屆中國科協年會上所強調的，“基於密碼學視角的人工智能安全新理論和防護體係”是關乎國家數字安全的重要前沿課題。在這個AI無處不在的時代，密碼學不再隻是保護數據傳輸的工具，更成為守(shǒu)護(hù)智(zhì)能(néng)係統核心的盾牌。通過密碼學與AI的深度融合，糖心免费视频正致力於構建既智能又安全的新一代數字基礎設施，讓技術進步真正造福人類社會，而不帶來新的風險與威脅。這場密碼學與人工智能的對話，才剛剛開始。

供稿單位：重慶理工大學計算機科學與工程學院

作者：重慶理工大學 馮嘉宇

審核專家：倪偉

聲明：除原創內容及特別說明之外，部分圖片來源網絡，非商業用途，僅作為科普傳播素材，版權歸原作者所有，若有侵權，請聯係刪除。