【科學(xué)隨筆】

　　作者：宋建立（最高人民檢察院知識(shí)產(chǎn)權(quán)檢察辦公室副主任）

　　人工智能技術(shù)的加速迭代，深刻改變著人類的生產(chǎn)生活，并對(duì)人類文明發(fā)展和社會(huì)進(jìn)步產(chǎn)生著廣泛而深遠(yuǎn)的影響。但技術(shù)的進(jìn)步往往是一把“雙刃劍”，在人工智能新業(yè)態(tài)新產(chǎn)品層出不窮的同時(shí)，人工智能技術(shù)轉(zhuǎn)化與應(yīng)用的不確定性，對(duì)網(wǎng)絡(luò)安全、社會(huì)就業(yè)、法律倫理等帶來(lái)了沖擊，并對(duì)國(guó)家政治、經(jīng)濟(jì)和社會(huì)安全帶來(lái)諸多風(fēng)險(xiǎn)和挑戰(zhàn)。如何確保人工智能始終按照為人類服務(wù)的預(yù)設(shè)目標(biāo)發(fā)展正成為當(dāng)今國(guó)際社會(huì)普遍關(guān)注的問(wèn)題。

　　當(dāng)前，人工智能仍處于快速發(fā)展階段，但因其技術(shù)自身固有的脆弱性和監(jiān)管體系落后于技術(shù)發(fā)展等客觀因素的存在，各國(guó)對(duì)人工智能風(fēng)險(xiǎn)治理尚未形成統(tǒng)一認(rèn)識(shí)，出現(xiàn)了新問(wèn)題快速涌現(xiàn)，治理規(guī)則缺失的困境。坦率地說(shuō)，人們?cè)谙碛萌斯ぶ悄芗夹g(shù)高效便捷的同時(shí)，其所帶來(lái)潛在的法律、倫理等各種風(fēng)險(xiǎn)也日益凸顯。

　　筆者長(zhǎng)期從事司法工作，本文著重探討如何平衡好人工智能產(chǎn)業(yè)創(chuàng)新發(fā)展與法律風(fēng)險(xiǎn)防范。2023年11月，首屆全球人工智能安全峰會(huì)在英國(guó)召開(kāi)并發(fā)布了《布萊奇利宣言》，該宣言在人工智能的共同協(xié)作和以安全為中心方面達(dá)成共識(shí)，即確保世界共同邁向人工智能安全和合乎道德地為人類服務(wù)的未來(lái)。世界主要國(guó)家都在積極推動(dòng)人工智能創(chuàng)新發(fā)展應(yīng)用，同時(shí)亦大力加強(qiáng)對(duì)安全風(fēng)險(xiǎn)的前瞻研究和主動(dòng)預(yù)防，力圖在新一輪人工智能發(fā)展浪潮中占得先機(jī)、贏得主動(dòng)。如歐洲議會(huì)近期通過(guò)了《人工智能法案》授權(quán)草案，旨在促進(jìn)歐洲在人工智能領(lǐng)域的創(chuàng)新能力，同時(shí)支持在整個(gè)歐盟經(jīng)濟(jì)中發(fā)展和采用合乎倫理且可信的人工智能。美國(guó)通過(guò)《人工智能應(yīng)用的監(jiān)管指南》，強(qiáng)調(diào)監(jiān)管的科學(xué)性和靈活性，重視為人工智能應(yīng)用創(chuàng)建“安全港”、監(jiān)管豁免等。

　　當(dāng)前，如何有效管控人工智能安全風(fēng)險(xiǎn)尚處于探索階段，我國(guó)未來(lái)仍需進(jìn)一步做好安全管理工作的前瞻性研究與戰(zhàn)略布局，以務(wù)實(shí)審慎的態(tài)度參與和推動(dòng)人工智能風(fēng)險(xiǎn)治理的國(guó)際規(guī)則制定，尤其是鼓勵(lì)產(chǎn)業(yè)一線企業(yè)與組織的積極參與，提高我國(guó)人工智能安全與治理方案的國(guó)際話語(yǔ)權(quán)。

　　加強(qiáng)人工智能風(fēng)險(xiǎn)治理，必須重視標(biāo)準(zhǔn)的制定。一項(xiàng)與技術(shù)標(biāo)準(zhǔn)有效結(jié)合的關(guān)鍵技術(shù)一旦占領(lǐng)某行業(yè)或領(lǐng)域，就很容易掌握市場(chǎng)主動(dòng)權(quán)。確立技術(shù)標(biāo)準(zhǔn)方面的領(lǐng)導(dǎo)地位是企業(yè)做大做強(qiáng)的關(guān)鍵環(huán)節(jié)。多年來(lái)，一些發(fā)達(dá)國(guó)家依托創(chuàng)新驅(qū)動(dòng)，通過(guò)標(biāo)準(zhǔn)戰(zhàn)略、專利戰(zhàn)略和新產(chǎn)業(yè)集群戰(zhàn)略的合力作用，維持其經(jīng)濟(jì)與技術(shù)強(qiáng)國(guó)地位。實(shí)踐證明，制定標(biāo)準(zhǔn)的企業(yè)具有競(jìng)爭(zhēng)優(yōu)勢(shì)，誰(shuí)缺席標(biāo)準(zhǔn)制定，誰(shuí)就會(huì)在未來(lái)競(jìng)爭(zhēng)中陷于被動(dòng)。當(dāng)前，碳減排技術(shù)、新一代移動(dòng)通信、人工智能、量子計(jì)算、新能源汽車(chē)等領(lǐng)域的標(biāo)準(zhǔn)制定方興未艾，人工智能亟須借助標(biāo)準(zhǔn)優(yōu)勢(shì)提高治理能力，只有明確清晰且適應(yīng)人工智能發(fā)展的標(biāo)準(zhǔn)化體系，才能實(shí)現(xiàn)協(xié)同人工智能的產(chǎn)業(yè)力量和多方共治的愿望?？梢哉f(shuō)，標(biāo)準(zhǔn)制定權(quán)競(jìng)爭(zhēng)已成為大國(guó)博弈和全球治理變革的重要體現(xiàn)，標(biāo)準(zhǔn)化進(jìn)程和核心專利布局是贏得競(jìng)爭(zhēng)的關(guān)鍵。

　　目前，國(guó)際上人工智能現(xiàn)有標(biāo)準(zhǔn)主要集中在人工智能技術(shù)、應(yīng)用領(lǐng)域的通用標(biāo)準(zhǔn)，而涉及人工智能安全、倫理、隱私保護(hù)等方面的安全標(biāo)準(zhǔn)，大多處于研究階段。我國(guó)雖然頒布了一些與人工智能標(biāo)準(zhǔn)化體系建設(shè)相關(guān)的政策文件，但與人工智能自身安全或基礎(chǔ)共性相關(guān)安全標(biāo)準(zhǔn)的研究則不足。國(guó)際標(biāo)準(zhǔn)具有決定產(chǎn)業(yè)發(fā)展的技術(shù)規(guī)則和未來(lái)方向，國(guó)際組織是各領(lǐng)域標(biāo)準(zhǔn)制定主體，未來(lái)我國(guó)應(yīng)積極參與人工智能領(lǐng)域相關(guān)國(guó)際組織的標(biāo)準(zhǔn)制定，將中國(guó)標(biāo)準(zhǔn)納入國(guó)際標(biāo)準(zhǔn)，主動(dòng)掌握更大的規(guī)則話語(yǔ)權(quán)，促進(jìn)本國(guó)人工智能產(chǎn)業(yè)發(fā)展。

　　加強(qiáng)人工智能風(fēng)險(xiǎn)治理，要加強(qiáng)人工智能?chē)?guó)際合作。當(dāng)前國(guó)際競(jìng)爭(zhēng)形勢(shì)復(fù)雜多變，必須放眼世界和未來(lái)。一方面以大模型訓(xùn)練為代表的新興技術(shù)和應(yīng)用快速崛起、反復(fù)迭代，助推數(shù)據(jù)量和算力需求爆炸性增長(zhǎng)，亟須在理論架構(gòu)和軟硬件層面實(shí)現(xiàn)質(zhì)的飛躍，解決人工智能技術(shù)瓶頸、促進(jìn)人工智能成熟發(fā)展，離不開(kāi)國(guó)際交流與合作；另一方面人工智能在促進(jìn)生產(chǎn)力水平提高的同時(shí)，也帶來(lái)了權(quán)益侵害、隱蔽犯罪和認(rèn)知混亂等客觀風(fēng)險(xiǎn)，構(gòu)建可信向善的人工智能亦離不開(kāi)國(guó)際社會(huì)的共同協(xié)作。首屆全球人工智能安全峰會(huì)雖對(duì)此達(dá)成了共識(shí)，但仍存在不少局限。

　　為此，我國(guó)應(yīng)加快整合國(guó)內(nèi)人工智能產(chǎn)業(yè)、政府及專家資源，推動(dòng)完善符合我國(guó)國(guó)情、適應(yīng)全球化發(fā)展的人工智能法律制度體系，推行更加公開(kāi)開(kāi)放的政策和實(shí)踐，在國(guó)家戰(zhàn)略層面對(duì)人工智能創(chuàng)新發(fā)展和安全進(jìn)行系統(tǒng)布局、主動(dòng)謀劃，推進(jìn)標(biāo)準(zhǔn)建設(shè)、行業(yè)協(xié)同、人才培養(yǎng)、國(guó)際交流等工作，提升我國(guó)人工智能創(chuàng)新發(fā)展與安全的綜合能力，把握人工智能新發(fā)展階段國(guó)際競(jìng)爭(zhēng)的主動(dòng)權(quán)，打造競(jìng)爭(zhēng)新優(yōu)勢(shì)、開(kāi)拓發(fā)展新空間。此外，實(shí)現(xiàn)上述目標(biāo)，還需跟蹤最新技術(shù)成果，加強(qiáng)與先進(jìn)國(guó)家和領(lǐng)軍企業(yè)開(kāi)展技術(shù)研究國(guó)際合作，共享治理經(jīng)驗(yàn)，共同應(yīng)對(duì)人工智能創(chuàng)新應(yīng)用中的安全問(wèn)題和倫理影響，切實(shí)保障人工智能真正造福人類。

　　《光明日?qǐng)?bào)》（2024年03月14日 16版）