人工智能:發(fā)展和治理“兩手抓”
編者按 人工智能無疑是2023年的科技熱詞。作為戰(zhàn)略性新興技術,人工智能日益成為科技創(chuàng)新、產(chǎn)業(yè)升級和生產(chǎn)力提升的重要驅(qū)動力量。如何看待人工智能熱潮?如何處理發(fā)展與治理的關系?怎樣推動相關產(chǎn)業(yè)落地應用、有序發(fā)展?為此,本版推出特別策劃,以饗讀者。
◎本報記者 崔 爽
人工智能無疑是2023年最熱門的數(shù)字科技關鍵詞。一方面,各國紛紛加速布局人工智能產(chǎn)業(yè)。近日,俄羅斯公布了一項新的人工智能發(fā)展國家戰(zhàn)略計劃,新加坡發(fā)布了全國人工智能策略2.0。另一方面,針對人工智能的治理體系也愈發(fā)完善。美國推出《關于安全、可靠和可信的AI行政命令》,歐盟就《人工智能法案》達成協(xié)議。在2023年底舉辦的首屆全球人工智能安全峰會上,包括中國、美國、英國在內(nèi)的28個國家及歐盟共同簽署了旨在推動人工智能全球治理的《布萊奇利宣言》。
由此可見,在數(shù)字經(jīng)濟時代,布局人工智能已經(jīng)成為各國政府的共識。但如何布局、如何發(fā)展,仍然需要政府、科研院所、業(yè)界等各方貢獻智慧。2024年,人工智能技術將有哪些動向?如何在技術快速發(fā)展的情況下更好地監(jiān)管人工智能?
落地產(chǎn)業(yè)應用的關鍵一年
“在傳統(tǒng)信貸經(jīng)營模式下,銀行向一些小農(nóng)場放貸以后,工作人員需要隔三岔五去做貸后檢查、監(jiān)測,費時又費力。在西部一些地區(qū),進行一次檢查甚至可能需要兩三天時間。”中國農(nóng)業(yè)銀行研發(fā)中心大模型研發(fā)負責人耿博在近日召開的首屆人工智能應用大會上說。
高企的運營成本在人工智能技術規(guī)模應用之后大大降低了?!拔覀冊谛∞r(nóng)場裝了一些攝像頭,通過這些攝像頭采集數(shù)據(jù),然后用人工智能做計數(shù)?!惫⒉┙榻B道,“不光是計數(shù),人工智能還能做辨別。比如這頭牛到底是老王的還是老李的?!惫⒉┙榻B,人工智能的應用提高了貸后管理效率,降低了貸后管理成本,使一些偏遠地區(qū)也能享受智慧金融服務。
這只是人工智能技術落地應用的冰山一角?!?024年將是人工智能技術落地產(chǎn)業(yè)應用的關鍵一年?!北本┕ど檀髮W副校長左敏判斷。在他看來,隨著大模型在過去一年的快速進步,人工智能技術的應用潛能已經(jīng)被廣泛認可。與此同時,大家意識到,在人工智能領域,構建越來越大的模型并不一定是最終目標。將人工智能技術轉(zhuǎn)化為具體的、可行的解決方案和產(chǎn)品,對于推動人工智能行業(yè)發(fā)展和實現(xiàn)商業(yè)價值亦至關重要。
人工智能,尤其是大模型未來一段時期內(nèi)值得關注的方向是什么?中國移動通信聯(lián)合會執(zhí)行副會長杜正平給出了自己的答案:智能涌現(xiàn)的工程機制、新的技術商業(yè)模型、新的智能組織和技術架構。
智能涌現(xiàn),指人工智能出現(xiàn)的與初始訓練目標無關的新行為和功能。業(yè)界普遍認為,智能涌現(xiàn)是人工智能邁向更高階段的表現(xiàn)。但對于智能涌現(xiàn)發(fā)生的機制和工程路徑,科學家目前尚不清楚。杜正平提到,互聯(lián)網(wǎng)公司Meta日前表示,擬斥資數(shù)十億美元購買英偉達公司的計算機芯片,用于人工智能研究和相關項目。Meta首席執(zhí)行官馬克·扎克伯格亦透露,根據(jù)公司的人工智能未來路線圖要求,公司將建立一個大規(guī)模的計算基礎設施。到2024年底,這一基礎設施將包括35萬張英偉達H100顯卡。在杜正平看來,類似Meta這樣“暴力”的方式是否一定會推動人工智能產(chǎn)生智能涌現(xiàn),以及智能涌現(xiàn)發(fā)生的機制和工程路徑,還需繼續(xù)探索。
同時,杜正平認為,盡管大模型發(fā)展如火如荼,但它究竟會在哪些方面發(fā)展出新的技術商業(yè)模式,還需全行業(yè)共同探索。“在模型智能時代,如何搭建新的智能組織、技術架構,同樣是我們關注的重點?!倍耪秸f。
“我國經(jīng)濟已經(jīng)由高速增長階段轉(zhuǎn)向高質(zhì)量發(fā)展階段,處在轉(zhuǎn)變發(fā)展方式、優(yōu)化經(jīng)濟結構、轉(zhuǎn)化增強動力的攻關時期,迫切需要新一代人工智能重大創(chuàng)新助力?!敝袊娮由虅丈虆f(xié)會聯(lián)盟主席聶林海認為,“我們要深入把握新一代人工智能的發(fā)展特點,加快推動人工智能和相關產(chǎn)業(yè)融合發(fā)展,為高質(zhì)量發(fā)展提供新動能。”
推動治理規(guī)則與實踐走深向?qū)?/p>
以大模型為代表的生成式人工智能技術發(fā)展迅猛,已初步顯露對行業(yè)的顛覆式影響。與此同時,人工智能安全治理問題也引發(fā)了前所未有的關注。各國政府、國際組織、學術科研機構、產(chǎn)業(yè)組織、科技公司紛紛投身其中。“全球人工智能安全治理的規(guī)則與實踐探索將進一步走深向?qū)?。”談及全球人工智能安全治理發(fā)展趨勢,中國信息通信研究院人工智能研究中心高級業(yè)務主管呼娜英說。
根據(jù)中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟安全治理委員會發(fā)布的研究結果,隨著人工智能加速賦能千行百業(yè),人工智能安全治理議題正從隱私保護、數(shù)據(jù)安全、算法黑箱、模型漏洞等傳統(tǒng)技術安全議題向應用于生物、化學、核能、關鍵基礎設施等領域的底層安全問題擴展。
在人工智能安全治理方案方面,呼娜英介紹,全球持續(xù)加強人工智能安全治理。2023年10月,聯(lián)合國組建高級別人工智能咨詢機構。機構旨在監(jiān)管人工智能,應對人工智能可能帶來的風險。在強化人工智能安全治理過程中,風險導向成為各國對人工智能的普遍治理路徑。比如,我國的《生成式人工智能服務管理暫行辦法》積極應對生成式人工智能在訓練數(shù)據(jù)、算法模型、生成內(nèi)容、個人信息權益等方面產(chǎn)生的風險。歐盟《人工智能法案》對人工智能進行分級監(jiān)管和風險規(guī)制。聯(lián)合國人工智能咨詢機構也在臨時報告中說,制定人工智能風險管理框架將是下一步工作的重心。
具體措施方面,在技術快速發(fā)展的情況下,以人工智能治理人工智能成為行業(yè)探索的重點。其中,可擴展監(jiān)督、可解釋性研究、模型評估等價值對齊方式是行業(yè)的主要探索方向。比如2023年5月,人工智能初創(chuàng)公司Anthropic宣布,將通過一個名為“憲法 AI”的大模型評估和訓練該公司大模型的價值觀。人工智能研究公司OpenAI緊隨其后,宣布成立超級對齊團隊,投入20%計算資源,以4年時間打造解決對齊問題的人工智能。(科技日報)
版權聲明:凡注明“來源:中國西藏網(wǎng)”或“中國西藏網(wǎng)文”的所有作品,版權歸高原(北京)文化傳播有限公司。任何媒體轉(zhuǎn)載、摘編、引用,須注明來源中國西藏網(wǎng)和署著作者名,否則將追究相關法律責任。