新聞中心
【安全科普】AI時(shí)代的背面，安全威脅正在滋生
人工智能（AI）無疑已成為引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的核心驅(qū)動(dòng)力，被普遍認(rèn)為是未來生產(chǎn)力的前沿陣地。然而，隨著AI技術(shù)的迅猛發(fā)展，它帶來的巨大潛力背后也隱藏著兩大主要挑戰(zhàn)。
首先，AI技術(shù)可能放大現(xiàn)有的威脅。在數(shù)據(jù)驅(qū)動(dòng)的時(shí)代，AI系統(tǒng)通過學(xué)習(xí)和分析海量數(shù)據(jù)不斷優(yōu)化自身的性能和準(zhǔn)確性，但這也意味著它更容易被惡意利用，用于網(wǎng)絡(luò)攻擊、信息泄露或操縱輿論等目的。例如，黑客可以利用AI技術(shù)破解安全系統(tǒng)，竊取敏感信息；或者通過操縱AI生成的虛假內(nèi)容，誤導(dǎo)公眾認(rèn)知，破壞社會穩(wěn)定。據(jù)統(tǒng)計(jì)，2023年基于AI的深度偽造欺詐暴增了3000%，基于AI的釣魚郵件數(shù)量增長了1000%。
其次，AI技術(shù)的廣泛應(yīng)用還引入了新型威脅?；贏I的新型攻擊種類與手段層出不窮，甚至出現(xiàn)泛濫，包括深度偽造（Deepfake）、黑產(chǎn)大語言模型、惡意AI機(jī)器人、自動(dòng)化攻擊等，在全球范圍造成了嚴(yán)重的危害。
以下介紹幾種基于AI的新型攻擊案例。
01
深度偽造
2022年3月，在俄烏沖突期間爆發(fā)的信息戰(zhàn)中，利用“Deepfake”（深度偽造）技術(shù)生成的烏克蘭總統(tǒng)澤倫斯基勸告國民“投降”的影片視頻在烏克蘭的媒體網(wǎng)站、電視廣播中大肆傳播。
2024年1月，美國新罕布什爾州發(fā)生了一起引人注目的選舉干擾事件。據(jù)該州總檢察長披露，一個(gè)偽造美國總統(tǒng)拜登聲音的機(jī)器人電話竟然致電選民，建議他們不要在近期的總統(tǒng)初選投票中參與投票。這一行動(dòng)被指與LifeCorporation和LingoTelecom等公司有關(guān)，這些公司被指控至少撥打了數(shù)千通此類電話。
AI“深度偽造”技術(shù)（Deepfake）是指利用深度學(xué)習(xí)技術(shù)生成合成圖像、音頻或視頻的技術(shù)，能夠制作出極其逼真的偽造內(nèi)容。這種技術(shù)通常會利用生成對抗網(wǎng)絡(luò)（GANs）或變分自編碼器（VAEs）等深度學(xué)習(xí)方法來生成高度真實(shí)的內(nèi)容，并可能被用于制造虛假新聞、操控公眾輿論、制造假象，甚至進(jìn)行欺詐和勒索等不法行為。
02
黑產(chǎn)大語言模型
大型語言模型FraudGPT在2023年7月22日被公然置于暗網(wǎng)進(jìn)行銷售。這款工具建立在較為新穎的GPT3技術(shù)之上，被定位為用于惡意攻擊的高級自動(dòng)化工具。其功能多樣，可用于編寫惡意代碼、創(chuàng)建難以檢測的病毒軟件和黑客工具、構(gòu)建網(wǎng)絡(luò)釣魚頁面和欺詐性內(nèi)容以及搜尋安全漏洞等。訂閱費(fèi)用根據(jù)期限有所不同，從每月200美元到每年1700美元不等。
據(jù)發(fā)現(xiàn)該漏洞的安全機(jī)構(gòu)透露，F(xiàn)raudGPT似乎更側(cè)重于生成迅速且大量的網(wǎng)絡(luò)釣魚攻擊，而WormGPT則偏向于生成更為復(fù)雜的惡意軟件和勒索軟件功能。
03
大語言模型自身的安全漏洞
2023年4月，有報(bào)道指出，三星的芯片機(jī)密代碼因ChatGPT的使用而遭到泄露，公司正在考慮重新禁用這一工具。在此之前，三星曾允許其半導(dǎo)體部門的工程師利用ChatGPT輔助修復(fù)源代碼問題。然而，在使用過程中，員工們不慎將機(jī)密數(shù)據(jù)輸入到ChatGPT中，這些數(shù)據(jù)包括新程序的源代碼主體、與硬件相關(guān)的內(nèi)部會議記錄等敏感信息。短短不到一個(gè)月的時(shí)間，三星就發(fā)生了三起員工通過ChatGPT泄露敏感信息的事件。
根據(jù)開放式Web應(yīng)用程序安全項(xiàng)目（OWASP）發(fā)布的AI安全矩陣，枚舉了常見的AI威脅，包括多種提示注入、模型投毒、數(shù)據(jù)投毒、數(shù)據(jù)泄露等。OWASP針對大模型應(yīng)用的十大安全風(fēng)險(xiǎn)項(xiàng)檢查清單，包括提示注入、數(shù)據(jù)泄漏、沙箱不足和未經(jīng)授權(quán)的代碼執(zhí)行等。
04
社會工程學(xué)威脅
社會工程學(xué)是一種操縱人際關(guān)系以獲取敏感信息或訪問權(quán)限的技術(shù)。攻擊者通常利用人類的心理弱點(diǎn)，如信任、恐懼或貪婪，來誘使受害者泄露信息或執(zhí)行不安全操作。隨著AI技術(shù)的全面進(jìn)步，攻擊者開始利用AI來實(shí)現(xiàn)更高效、更具針對性的社會工程攻擊。
網(wǎng)絡(luò)安全領(lǐng)域的領(lǐng)軍企業(yè)ZeroFOX近期開展了一項(xiàng)名為SNAP_R的Twitter釣魚攻擊實(shí)驗(yàn)。該攻擊創(chuàng)新性地運(yùn)用了AI技術(shù)，深入分析受害者的Twitter活動(dòng)，進(jìn)而生成極具針對性的欺詐性消息。這些消息巧妙利用受害者的興趣和在線行為，誘導(dǎo)他們點(diǎn)擊惡意鏈接。相較于傳統(tǒng)的釣魚攻擊，SNAP_R攻擊方法因其高度個(gè)性化和精準(zhǔn)性而更具說服力，使得受害者更易上當(dāng)受騙。
面對AI技術(shù)發(fā)展帶來的機(jī)遇和挑戰(zhàn)，如何應(yīng)對人工智能安全風(fēng)險(xiǎn)，有效保障國家安全，是當(dāng)下安全廠商需要進(jìn)行研究和探索的目標(biāo)。
2023年10月18日，習(xí)近平總書記在第三屆“一帶一路”國際合作高峰論壇開幕式主旨演講中宣布，中方將提出《全球人工智能治理倡議》?！冻h》圍繞人工智能發(fā)展、安全和治理三個(gè)方面系統(tǒng)闡述了人工智能治理的中國方案。
2023年10月18日，習(xí)近平總書記在第三屆“一帶一路”國際合作高峰論壇開幕式主旨演講中宣布，中方將提出《全球人工智能治理倡議》?！冻h》圍繞人工智能發(fā)展、安全和治理三個(gè)方面系統(tǒng)闡述了人工智能治理的中國方案。
在政策的指引下，安博通將持續(xù)關(guān)注人工智能領(lǐng)域技術(shù)變革與發(fā)展，并銘記初心使命，為國家網(wǎng)絡(luò)安全保駕護(hù)航，同時(shí)也倡導(dǎo)無論是個(gè)人還是企業(yè)都對所接收的信息保持高度警惕，以保護(hù)敏感數(shù)據(jù)和數(shù)據(jù)交易安全。
