自從生成式人工智能熱潮興起以來(lái)，有關(guān)數(shù)據(jù)安全性的爭(zhēng)議就始終不斷。事實(shí)證明，即便是“頭部大廠”微軟也有數(shù)據(jù)泄露的風(fēng)險(xiǎn)。據(jù)一家網(wǎng)絡(luò)安全公司的最新研究顯示，微軟公司的人工智能研究團(tuán)隊(duì)數(shù)月前就曾意外在軟件開發(fā)平臺(tái)GitHub上泄露了大量私人數(shù)據(jù)，其中涵蓋了3萬(wàn)多條微軟團(tuán)隊(duì)的內(nèi)部信息。雖然沒有涉及用戶信息，但正如在上周一場(chǎng)以管理人工智能為主題的閉門論壇上特斯拉CEO馬斯克所說(shuō)，“對(duì)我們來(lái)說(shuō)，重要的是要有一個(gè)裁判”。

訪問(wèn)權(quán)限設(shè)置錯(cuò)誤

一個(gè)小小的設(shè)置失誤，導(dǎo)致微軟在近三年的時(shí)間里將大量?jī)?nèi)部數(shù)據(jù)暴露在外。當(dāng)?shù)貢r(shí)間9月18日，據(jù)網(wǎng)絡(luò)安全公司W(wǎng)iz報(bào)告，公司在對(duì)云托管數(shù)據(jù)的泄露問(wèn)題進(jìn)行持續(xù)調(diào)查時(shí)，發(fā)現(xiàn)微軟AI研究團(tuán)隊(duì)在發(fā)布開源數(shù)據(jù)時(shí)意外泄露38TB的隱私數(shù)據(jù)，其中包含3萬(wàn)多條員工內(nèi)部信息。

據(jù)了解，導(dǎo)致該次數(shù)據(jù)泄露的源頭是微軟在GitHub存儲(chǔ)庫(kù)中提供了一個(gè)屬于微軟云存儲(chǔ)系統(tǒng)Azure Storage的網(wǎng)址鏈接，可以用來(lái)下載開源代碼和用于圖像識(shí)別的AI模型。然而，由于微軟的AI開發(fā)人員在網(wǎng)址中包含了一個(gè)過(guò)于寬松的共享訪問(wèn)簽名(SAS)令牌，此鏈接竟被設(shè)置成授予整個(gè)存儲(chǔ)賬戶的權(quán)限。也就是說(shuō)，點(diǎn)進(jìn)該鏈接的任何人都能訪問(wèn)與之相關(guān)的存儲(chǔ)賬戶的全部?jī)?nèi)容。

更可怕的是，該鏈接給予訪問(wèn)者的權(quán)限不是只能觀看、不能修改的“只讀”，而是“完全控制”，意味著任何人都有可能在整個(gè)賬戶中刪除、替換或添加惡意內(nèi)容。

在受到影響的全部數(shù)據(jù)中，包括了兩名微軟員工的個(gè)人電腦備份，還有用于微軟服務(wù)的密碼、秘鑰以及Teams上來(lái)自359名微軟員工的超3萬(wàn)條內(nèi)部群聊消息。

Wiz表示，這個(gè)網(wǎng)址鏈接從2020年就開始暴露數(shù)據(jù)，直到Wiz發(fā)現(xiàn)該問(wèn)題并在今年6月22日和微軟分享了研究成果。微軟在兩天后的6月24日撤銷了有問(wèn)題的SAS令牌，并在今年8月16日完成了對(duì)組織內(nèi)部潛在影響的調(diào)查。

對(duì)于此事，微軟發(fā)言人表示，微軟已確認(rèn)沒有用戶數(shù)據(jù)遭到泄露，也沒有其他內(nèi)部服務(wù)受到威脅。微軟安全響應(yīng)中心在當(dāng)日發(fā)布的博客文章中表示，收到Wiz的研究結(jié)果之后，他們已經(jīng)改進(jìn)了GitHub的秘密掃描服務(wù)，該服務(wù)能夠監(jiān)控所有公開的開源代碼改動(dòng)，其中包括那些過(guò)于寬松的SAS令牌。

AI安全如何確保

事件再一次引起了對(duì)于AI數(shù)據(jù)安全問(wèn)題的關(guān)注。Wiz的聯(lián)合創(chuàng)始人兼首席技術(shù)官阿米·盧特瓦克(Ami Luttwak)指出：“很多開發(fā)團(tuán)隊(duì)都需要處理大規(guī)模的數(shù)據(jù)，需要與同事共享數(shù)據(jù)或在公共開源項(xiàng)目上進(jìn)行合作，像微軟這樣的案例將會(huì)變得越來(lái)越難以監(jiān)控和避免。”

一位從事IT研發(fā)的工程師也對(duì)北京商報(bào)記者表示，大模型時(shí)代需要跑通的數(shù)據(jù)更多，人工智能企業(yè)需要收集和利用大量數(shù)據(jù)來(lái)訓(xùn)練算法模型，由此出現(xiàn)漏洞的概率也就更大。

在2021年，Wiz就曾指出過(guò)微軟Azure基礎(chǔ)設(shè)施中的一個(gè)“超級(jí)漏洞”，其開源應(yīng)用Jupyter Notebook功能中的一系列錯(cuò)誤配置讓黑客能夠訪問(wèn)、修改和刪除數(shù)千名Azure客戶的數(shù)據(jù)。隨后，微軟發(fā)布聲明稱該問(wèn)題已得到解決，并用電子郵件通知了數(shù)千名受其影響的云客戶。

在天使投資人、資深人工智能專家郭濤看來(lái)，人工智能行業(yè)保護(hù)用戶隱私和數(shù)據(jù)安全需要多方面協(xié)同發(fā)力，一方面，人工智能技術(shù)公司需要遵循嚴(yán)格的隱私數(shù)據(jù)保護(hù)相關(guān)的法律法規(guī)，采取相應(yīng)的措施和技術(shù)手段來(lái)確保數(shù)據(jù)的安全性、完整性和機(jī)密性，如匿名化、去標(biāo)識(shí)化等技術(shù)來(lái)保護(hù)用戶因素和數(shù)據(jù)安全;另一方面，提高數(shù)據(jù)利用的透明度，向用戶解釋如何收集和使用數(shù)據(jù)，以及為什么需要這些數(shù)據(jù)，用戶有權(quán)決定是否愿意提供這些數(shù)據(jù)。

“要有一個(gè)裁判”

與此同時(shí)，監(jiān)管部門也正在努力解決如何減輕風(fēng)險(xiǎn)。上周，美國(guó)商務(wù)部長(zhǎng)雷蒙多等政府高官在白宮召集AI行業(yè)高管，宣布Adobe、Cohere、IBM、英偉達(dá)、Palantir、Salesforce、Scale AI和Stability 8家公司承諾，采取自愿監(jiān)管措施管理AI技術(shù)開發(fā)風(fēng)險(xiǎn)，包括在推出前展開安全測(cè)試、構(gòu)建將安全放在首位的系統(tǒng)、為AI生成內(nèi)容添加數(shù)字水印等。

具體來(lái)看，上述8家公司承諾：在發(fā)布AI系統(tǒng)前進(jìn)行內(nèi)部和外部安全測(cè)試、對(duì)網(wǎng)絡(luò)安全和內(nèi)部威脅保障措施投資、推進(jìn)第三方發(fā)現(xiàn)和報(bào)告AI系統(tǒng)存在的漏洞等。

此外，8家公司還承諾，對(duì)AI生成的內(nèi)容加上水印以防止虛假信息的傳播，公開報(bào)告安全風(fēng)險(xiǎn)和社會(huì)風(fēng)險(xiǎn)，開發(fā)有助于解決癌癥預(yù)防、氣候變化等社會(huì)挑戰(zhàn)的AI系統(tǒng)等。

這8家為第二批承諾管控AI風(fēng)險(xiǎn)的公司。今年7月，已有7家領(lǐng)先的人工智能公司——亞馬遜、Anthropic、谷歌、Inflection、Meta、微軟和OpenAI自愿承諾，將幫助推動(dòng)AI技術(shù)安全且透明地發(fā)展。

當(dāng)天，馬斯克、微軟公司聯(lián)合創(chuàng)始人比爾·蓋茨和Meta首席執(zhí)行官扎克伯格等科技公司大佬還受邀參加了一場(chǎng)人工智能峰會(huì)，商討未來(lái)人工智能的監(jiān)管方式。

作為推動(dòng)人工智能立法的一部分，美國(guó)參議院多數(shù)黨領(lǐng)袖查克·舒默組織了這次私人論壇。他表示，他問(wèn)了在場(chǎng)的每個(gè)人——包括約20名科技高管、倡導(dǎo)者和懷疑論者——政府是否應(yīng)該在人工智能的監(jiān)督中發(fā)揮作用，“每個(gè)人都舉手了，盡管他們有不同的觀點(diǎn)，”他說(shuō)。

在國(guó)會(huì)方面，雖然國(guó)會(huì)議員也同意需要加強(qiáng)立法，但對(duì)于具體行動(dòng)也一直沒有達(dá)成共識(shí)。一些國(guó)會(huì)成員擔(dān)心監(jiān)管會(huì)“過(guò)度”，而另一些議員則認(rèn)為沒有足夠的監(jiān)管將難以發(fā)現(xiàn)“潛在風(fēng)險(xiǎn)”。

關(guān)鍵詞： 數(shù)據(jù) 人工智能 安全 公司