論壇嘉賓共議風(fēng)險應(yīng)對與技術(shù)賦能前景：人工智能潮涌，應(yīng)兼顧創(chuàng)新與安全

潮新聞記者 李震宇 攝

以大模型為代表的人工智能技術(shù)快速進步，引領(lǐng)科技革命和產(chǎn)業(yè)變革浪潮。而安全與發(fā)展猶如鳥之兩翼，缺一不可，確保網(wǎng)絡(luò)安全成為全球的一項共同責(zé)任，如何兼顧技術(shù)創(chuàng)新和安全發(fā)展成為重要話題。

11月9日，2023年世界互聯(lián)網(wǎng)大會烏鎮(zhèn)峰會前沿數(shù)字技術(shù)創(chuàng)新與安全論壇舉行，與會嘉賓就前沿數(shù)字技術(shù)發(fā)展和應(yīng)用探索，共議安全風(fēng)險應(yīng)對與技術(shù)賦能前景。

大模型發(fā)展推動了人類數(shù)字化進程加速，業(yè)內(nèi)對其風(fēng)險的關(guān)注度也在提升。

中關(guān)村實驗室主任助理、首席科學(xué)家卿昱通過對2019年到2023年頂級會議論文的熱詞分析，揭示了這種變化：這5年來，研究者從對隱私計算、惡意軟件、數(shù)字取證、異常檢測技術(shù)的關(guān)注，擴展到了人工智能、深度學(xué)習(xí)和隱私保護相關(guān)技術(shù)。她表示，各種新技術(shù)的出現(xiàn)同時也帶來了新的安全威脅。

倫理風(fēng)險、算法風(fēng)險、數(shù)據(jù)風(fēng)險、技術(shù)濫用，在清華大學(xué)人工智能研究院副院長、計算機系教授朱軍看來，生成式人工智能的新型安全風(fēng)險正在顯現(xiàn)，這些新型風(fēng)險還可能與傳統(tǒng)網(wǎng)絡(luò)風(fēng)險形成疊加效應(yīng)。

在論壇上，嘉賓們分享了諸多有效治理工具，以解決安全問題、規(guī)范技術(shù)發(fā)展。

奇安信集團總裁吳云坤介紹，為應(yīng)對網(wǎng)絡(luò)安全攻防難題，奇安信基于安全能力、知識和實踐打造了工業(yè)級安全大模型，將其應(yīng)用于網(wǎng)絡(luò)安全攻防場景，增強安全能力，可以提升生產(chǎn)力和生產(chǎn)效率。朱軍演示了人工智能安全評測平臺、人臉人工智能安全防火墻、數(shù)據(jù)安全產(chǎn)品及人工智能內(nèi)容檢測平臺等針對性解決人工智能發(fā)展問題的工具。

互聯(lián)網(wǎng)始終擔當連接世界的橋梁，兼顧創(chuàng)新與安全的同時，讓數(shù)字技術(shù)為每個人帶來機遇、賦能行業(yè)，打造智能互聯(lián)新世界，成為與會嘉賓的共識。

在論壇上，記者看到國內(nèi)外企業(yè)展示技術(shù)普惠與技術(shù)賦能的成果。

高通公司全球高級副總裁錢堃表示，5G和AI的協(xié)同發(fā)展，滲透到大眾生活中的智能手機、移動PC和聯(lián)網(wǎng)汽車等終端，在智慧城市、醫(yī)療系統(tǒng)、資源優(yōu)化等領(lǐng)域也發(fā)揮著越來越重要的作用，助力數(shù)字世界的可持續(xù)發(fā)展。

文心大模型4.0全面開放兩個多月，用戶達到7000萬，場景達4300個，聯(lián)合研制10余個行業(yè)大模型。百度首席技術(shù)官王海峰表示，大語言模型的產(chǎn)業(yè)落地，正助力產(chǎn)業(yè)智能化升級。阿里云“通義千問”大模型已經(jīng)向全社會開放，并且啟動了“千問伙伴”計劃，阿里云智能集團首席風(fēng)險官兼首席財務(wù)官鄭俊芳表示將與行業(yè)伙伴共同創(chuàng)新生態(tài)。溝通、普惠、提效，騰訊集團副總裁蔣杰用3個關(guān)鍵詞介紹了已經(jīng)落地應(yīng)用的AI工業(yè)質(zhì)檢、大模型輔助設(shè)計、服務(wù)聽障群體、支持生態(tài)保育諸多項目。

網(wǎng)絡(luò)空間已成為人類發(fā)展的新疆域，也是網(wǎng)絡(luò)安全前沿技術(shù)發(fā)展和運用的“秀場”。人工智能潮涌，圍繞網(wǎng)絡(luò)空間安全新形勢和需求，推動安全發(fā)展，走向負責(zé)任的人工智能新時代，賦能行業(yè)普惠美好生活——這正是論壇展現(xiàn)的前景。