中新網(wǎng)烏鎮(zhèn)11月22日電(奚金燕 藍伊旎)人工智能生成的內(nèi)容如何“防偽”？網(wǎng)絡空間國際規(guī)則怎么制定？數(shù)據(jù)安全的邊界在哪里？隨著人工智能的高速發(fā)展以及在各領(lǐng)域的廣泛應用，加強人工智能在開發(fā)和應用層面的安全治理逐漸成為社會共識，聚焦的議題也愈加細分、深入。

11月19日至22日，2024年世界互聯(lián)網(wǎng)大會烏鎮(zhèn)峰會在烏鎮(zhèn)舉辦，人工智能成為本次大會核心議題，AI的倫理風險、安全治理等問題成為討論的焦點。

11月19日至22日，2024年世界互聯(lián)網(wǎng)大會烏鎮(zhèn)峰會在烏鎮(zhèn)舉辦。　主辦方 供圖

近年來，AI技術(shù)的快速發(fā)展帶來了巨大的經(jīng)濟和社會效益，也引發(fā)了眾多安全和治理方面的挑戰(zhàn)。

在本屆峰會的網(wǎng)絡安全技術(shù)發(fā)展與國際合作論壇上，奇安信集團董事長齊向東指出，AI技術(shù)正面臨著“黑箱化”導致內(nèi)容生成良莠不齊、“黑產(chǎn)化”導致深度偽造泛濫成災和“武器化”導致黑客攻擊愈演愈烈三重安全危機，亟須通過多維度體系化防護、深度偽造技術(shù)防治以及安全大模型的創(chuàng)新來加強治理。

“有了高效的安全治理，AI才有未來。”他認為，建立AI安全大模型是應對未來挑戰(zhàn)的關(guān)鍵策略。

以奇安信為例，用其部署自研的QAX-GPT安全大模型賦能天眼、天擎、椒圖等安全產(chǎn)品，再依托AISOC進行告警全局關(guān)聯(lián)，可以讓網(wǎng)絡安全、終端安全、服務器安全的防御變得更加主動。

再如，安恒信息牽頭研發(fā)的恒腦·安全垂域大模型在杭州亞運會賽事期間輔助處理安全事件287起，降低了ITCC57%的工作量。以AI對AI，以AI管AI，人工智能切實給網(wǎng)絡安保帶來了質(zhì)的變化。

同時，隨著人工智能深入到生活的各個方面，如何用人文關(guān)懷搭建數(shù)字橋梁、實現(xiàn)技術(shù)發(fā)展與社會責任間的平衡成為新的課題。

在量子之歌董事長李鵬看來，隨著數(shù)字資源供給日益豐富、數(shù)字發(fā)展環(huán)境逐漸優(yōu)化，老年人對知識與精神生活的需求也更加迫切，銀發(fā)教育普惠及資源共享需要在供給側(cè)發(fā)力。

他呼吁，人工智能的發(fā)展應當為老年教育等領(lǐng)域提供更多的數(shù)字化解決方案。比如，通過“線上+線下”的融合創(chuàng)新，一起構(gòu)建“15分鐘學習圈”，實現(xiàn)“老年大學辦到家門口”，打通“老年教育最后一百米”，以數(shù)字創(chuàng)新增強老年教育服務的“可及性”和“均衡性”。

那么，應當如何加強安全治理和社會引導，助力人工智能可持續(xù)發(fā)展？

據(jù)了解，本屆峰會圍繞人才培養(yǎng)、數(shù)據(jù)安全等方面，打造了多個“亮點”、實現(xiàn)了多個“首次”。

峰會期間，世界互聯(lián)網(wǎng)大會智庫合作計劃啟動。該計劃由全球約60家智庫聯(lián)合發(fā)起，涉及互聯(lián)網(wǎng)、人工智能、大數(shù)據(jù)、通信、云計算等專業(yè)方向和數(shù)字經(jīng)濟、網(wǎng)絡文化、網(wǎng)絡空間國際治理、網(wǎng)絡安全等研究領(lǐng)域，將為全球互聯(lián)網(wǎng)領(lǐng)域?qū)W術(shù)交流和思想對話機制化、常態(tài)化搭建合作平臺，推動全球智庫圍繞互聯(lián)網(wǎng)相關(guān)議題開展研究、交流與合作。

功以才成，業(yè)由才廣。互聯(lián)網(wǎng)迅猛發(fā)展，亟需規(guī)模宏大、結(jié)構(gòu)合理、素質(zhì)優(yōu)良的創(chuàng)新人才隊伍。

為了應對這一挑戰(zhàn)，世界互聯(lián)網(wǎng)大會數(shù)字研修院正式啟動，旨在聚焦人工智能、數(shù)據(jù)、網(wǎng)絡安全、跨境電商等國際社會廣泛關(guān)注的熱點領(lǐng)域，通過開展國際化綜合性、專題性培訓和沙龍活動，為全球各國，特別是發(fā)展中國家培養(yǎng)具有廣闊國際視野、前沿數(shù)字化思維、先進數(shù)字化技能的專業(yè)人才。

作為研修院首批合作單位，安恒信息相關(guān)負責人表示，將以此為契機，在網(wǎng)絡安全人才培養(yǎng)領(lǐng)域走穩(wěn)走遠，走深走實，助力“數(shù)字研修院”這一全新引擎，以更加創(chuàng)新、開放、普惠的方式，搭建全球能力建設平臺，維護安全的新疆域、文明互鑒的新平臺。

此外，世界互聯(lián)網(wǎng)大會還成立了首個專業(yè)性、常態(tài)化分支機構(gòu)——人工智能專業(yè)委員會。第一屆專委會成員共170余人，匯集了來自人工智能領(lǐng)域國際組織、知名智庫、科研院所、專業(yè)協(xié)會及產(chǎn)業(yè)界的權(quán)威專家和專業(yè)人才，設立了標準推進計劃、安全與治理推進計劃和產(chǎn)業(yè)推進計劃。

當前正處于全球人工智能治理的重要時期，專委會將秉持搭建國際交流合作平臺、推動發(fā)展與治理協(xié)同、促進全球共享人工智能發(fā)展成果的原則，通過開展專題研討、成果分享、倡議發(fā)布等活動，不斷凝聚國際共識，促進人工智能包容普惠、可持續(xù)發(fā)展。(完)

關(guān)鍵詞：