打造一個(gè)負(fù)責(zé)任的AI，讓人工智能更安全地賦能產(chǎn)業(yè)發(fā)展

圓桌論壇暢談人工智能助力產(chǎn)業(yè)發(fā)展潮新聞?dòng)浾?倪雁強(qiáng) 攝

如果世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)有個(gè)“熱搜榜”，“人工智能”定是火了10年的最熱詞之一。

從每個(gè)論壇繞不開的頂流ChatGPT到場館里巡檢的智能機(jī)器狗，今年的烏鎮(zhèn)峰會(huì)，AI還在升溫。

過去一年，人工智能在技術(shù)、產(chǎn)品、應(yīng)用等各個(gè)層面，都以“周”為迭代速度向前突進(jìn)，以超出人類想象的速度持續(xù)進(jìn)化。帶著想象，也有不安。人們?cè)跒蹑?zhèn)再次討論起AI，它和人類的關(guān)系究竟是什么?我們應(yīng)該如何與之相處?在交流碰撞的火花中，我們或許能獲得一些啟發(fā)。

重塑

“人工智能已經(jīng)不再是一個(gè)簡單的流行詞，而是正在重塑我們所生活的世界。”在人工智能賦能產(chǎn)業(yè)發(fā)展論壇中，阿拉伯信息通信技術(shù)組織秘書長本·阿莫說。

1950年圖靈最早提出了人工智能的概念，他在論文中直截了當(dāng)?shù)靥釂枺?ldquo;機(jī)器是否可能具有人類智能?”開創(chuàng)了人工智能領(lǐng)域的先河。今天，生成式人工智能不斷取得突破，展現(xiàn)出強(qiáng)大的生成創(chuàng)造能力，開始涌現(xiàn)出“智慧”，而這是一種重構(gòu)性的變化。

人們顯然發(fā)現(xiàn)人工智能更聰明了。就像聊天機(jī)器人ChatGPT，它能理解我們的問題和指令，能夠結(jié)合上下文的語境給出回答，并且能夠處理文字、圖片等多種信息，現(xiàn)在它不僅能在搜集、處理資料的時(shí)候幫上忙，甚至能寫出各類像模像樣的文學(xué)作品。在這屆烏鎮(zhèn)峰會(huì)上，2023“直通烏鎮(zhèn)”全球互聯(lián)網(wǎng)大賽人工智能(大模型及數(shù)字人)專題賽決賽上，京東言犀多模態(tài)大模型、達(dá)觀曹植大模型、星蝠科技大模型等10個(gè)項(xiàng)目同臺(tái)競技。極高量級(jí)的算力、龐大的數(shù)據(jù)資源讓以大模型為代表的AI技術(shù)飛速發(fā)展，令人驚嘆。

同時(shí)，這些人工智能已經(jīng)注入經(jīng)濟(jì)社會(huì)的各個(gè)支脈。在“互聯(lián)網(wǎng)之光”博覽會(huì)的未來生活數(shù)字體驗(yàn)區(qū)，觀眾可感受智能駕駛的便利、建立自己的3D數(shù)字人分身、體驗(yàn)人工智能在智慧教育中的運(yùn)用……生活的各個(gè)場景都與人工智能相關(guān)。

現(xiàn)階段，人工智能技術(shù)正處在量變引發(fā)質(zhì)變的關(guān)鍵節(jié)點(diǎn)，從流行到重塑，開始滲透千行百業(yè)。360集團(tuán)創(chuàng)始人周鴻祎也談到，GPT大模型的誕生代表著通用人工智能、強(qiáng)人工智能的到來，是真正的智能涌現(xiàn)。人工智能大模型已經(jīng)從感知進(jìn)化到了認(rèn)知，能夠理解文字、語言，作出分析、規(guī)劃，傳統(tǒng)算法將被代替。未來在自動(dòng)駕駛、機(jī)器人控制等很多重要領(lǐng)域，大語言模型都會(huì)大顯身手。

人類是AI的塑造者。站在新技術(shù)降臨的黎明，我們真切感受到數(shù)字世界和現(xiàn)實(shí)世界的深刻重構(gòu)，也開始思考技術(shù)的更多側(cè)面。

追問

在人工智能的交互界面上輸入問題或需求，幾秒內(nèi)，我們就能獲得豐富的信息回應(yīng)，許多人停留于贊美效率，享受這樣“被解放”的體驗(yàn)。

但是，與會(huì)的互聯(lián)網(wǎng)代表都在追問更多——你是否想過這些數(shù)據(jù)的來源?誰投喂了這些AI，生成的數(shù)據(jù)是否真的客觀、中立且真實(shí)?

我們應(yīng)該留意數(shù)據(jù)本身的質(zhì)量。“人工智能以大量數(shù)據(jù)為基礎(chǔ)，但數(shù)據(jù)的生命周期涉及數(shù)據(jù)采集、傳輸、計(jì)算、存儲(chǔ)、利用、消亡等方方面面。如果數(shù)據(jù)安全、可信沒有做好，那么基于數(shù)據(jù)的人工智能就會(huì)面臨各種各樣的問題。如果使用錯(cuò)誤的數(shù)據(jù)去訓(xùn)練人工智能，一定會(huì)產(chǎn)生錯(cuò)誤導(dǎo)向。”伏羲智庫創(chuàng)始人、中科院計(jì)算所研究員、清華大學(xué)互聯(lián)網(wǎng)治理研究中心主任李曉東反復(fù)提醒，如今人類每年產(chǎn)生大量的數(shù)據(jù)，各種各樣的數(shù)據(jù)充斥在一起良莠不齊，所以人工智能本身的安全和治理非常重要。

11月9日，人工智能賦能產(chǎn)業(yè)發(fā)展論壇上，與會(huì)嘉賓討論的不僅僅是追趕風(fēng)口，賦能產(chǎn)業(yè)應(yīng)用，聊得更多的是安全和治理。機(jī)遇和風(fēng)險(xiǎn)是技術(shù)之刃的兩面，隱私風(fēng)險(xiǎn)、數(shù)據(jù)偏見、倫理失范……人工智能帶來的挑戰(zhàn)不可避免，那我們又能做些什么?

“我們要構(gòu)建全生命周期的安全保障。”思科大中華區(qū)副總裁、安全事業(yè)部總經(jīng)理卜憲錄在討論中強(qiáng)調(diào)。如何保證數(shù)據(jù)采集合法，如何保證用戶隱私，如何保證數(shù)據(jù)可信，如何保證可信數(shù)據(jù)都能被合理利用……以上種種，都涉及整個(gè)數(shù)據(jù)生命周期的安全與可信。作為全球領(lǐng)先的網(wǎng)絡(luò)解決方案供應(yīng)商代表，卜憲錄分享，思科已經(jīng)圍繞透明度、公平性、問責(zé)制、隱私、安全性和可靠性展開風(fēng)險(xiǎn)的排查和控制，作為責(zé)任主體的企業(yè)更應(yīng)該參與制定相應(yīng)的AI框架。

“為AI制定框架是兜住底線，我們也應(yīng)該反觀自身，是否有足夠的能力和素養(yǎng)理解并規(guī)范它們。”中國教育和科研計(jì)算機(jī)網(wǎng)(CERNET)網(wǎng)絡(luò)中心副主任李星認(rèn)為，發(fā)明技術(shù)的智慧，把握技術(shù)發(fā)展的智慧我們應(yīng)該同時(shí)具備。他多次提及人工智能時(shí)代的教育和素養(yǎng)問題，“現(xiàn)在很多人都是‘人工智能時(shí)代的移民’，我們應(yīng)當(dāng)培養(yǎng)更多的年輕人成為人工智能時(shí)代的‘原住民’，具備更高的知識(shí)素養(yǎng)，能夠正確地看待它、理性地使用它。”

技術(shù)的發(fā)展基于倫理、安全，來到烏鎮(zhèn)峰會(huì)人們對(duì)此不斷追問。安恒信息首席技術(shù)官劉博深有同感：“在10年前，網(wǎng)絡(luò)安全產(chǎn)業(yè)相對(duì)沒有那么受大家關(guān)注，整個(gè)行業(yè)的體量還是比較小的。這10年是網(wǎng)絡(luò)安全產(chǎn)業(yè)蓬勃發(fā)展的10年。”劉博覺得，烏鎮(zhèn)峰會(huì)的舉辦，讓人們關(guān)注到更多的網(wǎng)絡(luò)安全問題，這對(duì)于他所在的行業(yè)而言同樣意義巨大。

希冀

“打造一個(gè)負(fù)責(zé)任的AI”——人們對(duì)這一具備顛覆性力量的技術(shù)滿懷希冀。

智能治理問題、倫理問題、安全問題……提及治理問題，與會(huì)代表們不約而同談到了“全球視野”——并不是一方就能解決所有問題，讓AI“負(fù)責(zé)”需要各個(gè)國家與不同利益主體之間，構(gòu)筑通力合作的機(jī)制。

我們比任何時(shí)候都需要這種共識(shí)，這種共同認(rèn)可的治理框架和準(zhǔn)則。

同樣在人工智能賦能產(chǎn)業(yè)發(fā)展論壇上，來自企業(yè)、研究機(jī)構(gòu)、國際組織等各方的代表，共同發(fā)布了《發(fā)展負(fù)責(zé)任的生成式人工智能研究報(bào)告及共識(shí)文件》。這套56頁的文件，是此次發(fā)布的標(biāo)志性成果之一。

文件里分析了生成式人工智能技術(shù)發(fā)展態(tài)勢，對(duì)經(jīng)濟(jì)社會(huì)、科學(xué)研究帶來的機(jī)遇，以及在安全與倫理等方面的挑戰(zhàn)，全面梳理了全球主要國家、地區(qū)、組織以及產(chǎn)業(yè)界面對(duì)生成式人工智能發(fā)展與治理的努力，匯總了產(chǎn)業(yè)界在金融、交通、教育等14個(gè)應(yīng)用場景的相關(guān)案例，提出發(fā)展負(fù)責(zé)任的生成式人工智能十條共識(shí)。

“許多人工智能領(lǐng)域的應(yīng)用與社會(huì)、文化息息相關(guān)。比如生成式人工智能生成的內(nèi)容基于不同國家和文化，生成的內(nèi)容服務(wù)于不同文化的人民。然而許多人工智能產(chǎn)品都面向全球提供服務(wù)，這個(gè)時(shí)候，必須遵守不同的監(jiān)管框架。因此，不同區(qū)域監(jiān)管框架之間的接口與互操作性對(duì)全球化至關(guān)重要。”中國科學(xué)院自動(dòng)化研究所人工智能倫理與治理研究中心主任曾毅多次呼吁創(chuàng)建全球人工智能治理網(wǎng)絡(luò)。如今，共識(shí)形成，各方攜手，朝著推進(jìn)構(gòu)建生成式人工智能治理模式的方向，邁出了堅(jiān)實(shí)的一步。

技術(shù)與人性，在這里同時(shí)閃耀。