近日，中金金融認(rèn)證中心（CFCA）與中國(guó)銀聯(lián)云計(jì)算中心攜手進(jìn)行前瞻性AI安全研究，揭示了當(dāng)前具有聯(lián)網(wǎng)功能的AI助手可能存在新型安全隱患。研究發(fā)現(xiàn)，開啟聯(lián)網(wǎng)搜索功能的AI大模型助手可能在特定條件下，向用戶返回含有隱蔽惡意代碼的內(nèi)容，可能對(duì)用戶信息安全乃至重要業(yè)務(wù)系統(tǒng)構(gòu)成潛在威脅。

CFCA提示廣大用戶尤其是軟件開發(fā)者，在使用AI助手時(shí)，務(wù)必提高警惕，防范風(fēng)險(xiǎn)。

具體而言，實(shí)現(xiàn)此類攻擊需攻擊者預(yù)先針對(duì)特定問題領(lǐng)域構(gòu)造隱蔽內(nèi)容（可以看作“埋雷”）。當(dāng)用戶向AI助手提出與這些內(nèi)容相關(guān)的問題時(shí)，AI助手可能在不知情的情況下返回含有惡意指令或惡意代碼的響應(yīng)。這些隱蔽的惡意代碼可被用于下載并執(zhí)行病毒程序，尤其對(duì)使用AI進(jìn)行代碼生成、系統(tǒng)命令行操作等場(chǎng)景構(gòu)成極大的安全風(fēng)險(xiǎn)。研究團(tuán)隊(duì)強(qiáng)調(diào)，此次發(fā)現(xiàn)僅為技術(shù)驗(yàn)證，未實(shí)際傳播任何病毒，也未對(duì)任何真實(shí)用戶造成影響。但研究成果充分表明，目前流行的聯(lián)網(wǎng)AI助手都可能存在類似的安全隱患，攻擊方式具備普遍有效性。

CFCA特別提醒廣大用戶：當(dāng)使用AI助手處理代碼編寫、計(jì)算機(jī)系統(tǒng)命令等敏感任務(wù)時(shí)，務(wù)必進(jìn)行人工檢查，避免因過度信任AI生成的內(nèi)容而引發(fā)安全風(fēng)險(xiǎn)。

近年來(lái)AI技術(shù)的迭代速度令人矚目，尤其在輔助編寫代碼、提升開發(fā)效率方面展現(xiàn)出巨大潛力。但開發(fā)者在擁抱AI帶來(lái)的便利與高效的同時(shí)，絕不能忽視或繞過軟件工程長(zhǎng)期沉淀下來(lái)的科學(xué)方法與原則。嚴(yán)謹(jǐn)?shù)男枨蠓治?、?xì)致的設(shè)計(jì)、規(guī)范的編碼、嚴(yán)格的代碼審查、充分的單元測(cè)試與集成測(cè)試、以及持續(xù)的安全評(píng)估——這些軟件工程的基石，在AI輔助開發(fā)的時(shí)代不僅不應(yīng)削弱，反而需要更加強(qiáng)調(diào)和落實(shí)。

責(zé)編：陳方

一審：陳方

二審：湯世明

三審：王超

來(lái)源：華聲在線

免責(zé)聲明：華聲在線對(duì)文中陳述、觀點(diǎn)判斷保持中立，不對(duì)所包含內(nèi)容的準(zhǔn)確性、可靠性或完整性提供任何明示或暗示的保證。文章僅是作者個(gè)人觀點(diǎn)，不應(yīng)作為投資依據(jù)。讀者應(yīng)詳細(xì)了解所有相關(guān)投資風(fēng)險(xiǎn)，并請(qǐng)自行承擔(dān)全部責(zé)任。

文章是網(wǎng)絡(luò)作者投稿發(fā)布，版權(quán)歸投稿作者所有。作者應(yīng)對(duì)文章及圖片的真實(shí)性及版權(quán)負(fù)責(zé)。一旦因此引發(fā)版權(quán)糾紛，權(quán)利人提出異議，華聲在線將根據(jù)相關(guān)法律法規(guī)的規(guī)定，刪除相應(yīng)內(nèi)容。侵權(quán)責(zé)任由投稿者自行承擔(dān)，如由此造成華聲在線損失，投稿者應(yīng)承擔(dān)賠償責(zé)任。如對(duì)本文有任何異議，請(qǐng)聯(lián)系我們38160107#（#改成@）qq.com。