原標(biāo)題：專家解讀｜推動人工智能創(chuàng)新發(fā)展行穩(wěn)致遠(yuǎn) 筑牢倫理安全治理屏障

　　近年來，人工智能深度融入經(jīng)濟(jì)社會各領(lǐng)域，深刻改變?nèi)祟惿a(chǎn)生活方式。同時，算法偏見、隱私泄露、濫用風(fēng)險等倫理安全問題愈發(fā)突出，侵害個人權(quán)益、擾亂社會秩序甚至危害國家安全風(fēng)險不斷上升。習(xí)近平總書記高度重視人工智能治理，強(qiáng)調(diào)要把握人工智能發(fā)展趨勢和規(guī)律，加緊制定完善相關(guān)法律法規(guī)、政策制度、應(yīng)用規(guī)范、倫理準(zhǔn)則。近日，全國網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會發(fā)布《人工智能應(yīng)用倫理安全指引1.0》（以下簡稱《指引》），系統(tǒng)劃定人工智能應(yīng)用倫理安全邊界與底線，為人工智能健康有序、安全可控、向善發(fā)展提供規(guī)范化依據(jù)與實(shí)操性遵循。

　　一、統(tǒng)籌發(fā)展與安全，健全中國特色人工智能倫理安全治理體系

　　我國立足國情與治理實(shí)踐，防范化解人工智能倫理安全風(fēng)險，逐步構(gòu)建以頂層設(shè)計(jì)為引領(lǐng)、柔性指引與剛性規(guī)制協(xié)同的中國特色人工智能倫理安全治理體系。柔性指引層面，先后出臺《新一代人工智能倫理規(guī)范》《關(guān)于加強(qiáng)科技倫理治理的意見》以及《人工智能安全治理框架》1.0版、2.0版，將倫理要求嵌入人工智能全生命周期，系統(tǒng)防范安全風(fēng)險。剛性規(guī)制層面，通過《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》《人工智能擬人化互動服務(wù)管理暫行辦法》以及新修訂的《中華人民共和國網(wǎng)絡(luò)安全法》，完善倫理安全規(guī)范、強(qiáng)化風(fēng)險監(jiān)測評估與合規(guī)監(jiān)管。在頂層統(tǒng)籌層面，我國依托科技倫理治理、網(wǎng)絡(luò)信息治理、產(chǎn)業(yè)治理等多方面機(jī)制，推動形成多部門協(xié)同、社會各方參與的治理格局，通過《全球人工智能治理倡議》參與全球治理，通過《國務(wù)院關(guān)于深入實(shí)施“人工智能+”行動的意見》進(jìn)一步探索形成智能向善理論體系。

　　我國人工智能倫理安全治理體系持續(xù)健全完善，倫理風(fēng)險防控加速從制度層面逐步走向?qū)嵺`落地，現(xiàn)階段仍面臨諸多現(xiàn)實(shí)堵點(diǎn)與突出難題。人工智能加速賦能千行百業(yè)，出臺《指引》既是推動人工智能規(guī)范合規(guī)、健康有序發(fā)展的內(nèi)在要求，也是有效防范化解人工智能應(yīng)用層面?zhèn)惱戆踩L(fēng)險的現(xiàn)實(shí)舉措。

　　一是筑牢倫理安全防線，保障人工智能健康有序發(fā)展。《指引》的出臺，立足人工智能發(fā)展新階段，圍繞人類主導(dǎo)權(quán)、公共秩序、個體認(rèn)知與社會價值、可持續(xù)生態(tài)影響等重點(diǎn)方向，系統(tǒng)提出倫理安全理念、原則與行為規(guī)范，有助于推動人工智能在可控、可靠、安全軌道上發(fā)展，防止技術(shù)異化和失控濫用，確保人工智能始終服務(wù)于人類共同福祉、服務(wù)經(jīng)濟(jì)社會發(fā)展。

　　二是規(guī)范產(chǎn)業(yè)發(fā)展秩序，推動人工智能負(fù)責(zé)任創(chuàng)新。《指引》圍繞應(yīng)用開發(fā)、服務(wù)提供、應(yīng)用使用等全鏈條提出明確要求，強(qiáng)調(diào)將以人為本、生命至上、公平公正、公開透明、可控可信等倫理安全要求貫穿人工智能應(yīng)用活動全過程，推動企業(yè)在技術(shù)創(chuàng)新和產(chǎn)業(yè)應(yīng)用過程中更加注重倫理安全責(zé)任與治理。這既有助于營造規(guī)范有序、健康可持續(xù)的產(chǎn)業(yè)生態(tài)，也有利于推動人工智能產(chǎn)業(yè)在規(guī)范有序中實(shí)現(xiàn)更高質(zhì)量發(fā)展，進(jìn)一步提升產(chǎn)業(yè)創(chuàng)新能力、應(yīng)用水平和社會信任度。

　　三是提升全民使用素養(yǎng)，防范技術(shù)濫用風(fēng)險。《指引》強(qiáng)調(diào)正確認(rèn)識人工智能的能力邊界和潛在影響，倡導(dǎo)增強(qiáng)自主判斷、妥善運(yùn)用人工智能，明確提出提升公眾對虛假錯誤信息、誤導(dǎo)性內(nèi)容和倫理安全風(fēng)險的識別能力。同時，《指引》鼓勵建立風(fēng)險提示、投訴舉報、反饋糾偏等機(jī)制，推動形成政府、企業(yè)、社會公眾多方參與的協(xié)同治理格局，有助于提升全民人工智能應(yīng)用素養(yǎng)和風(fēng)險防范意識，減少技術(shù)濫用對社會造成的不良影響。

　　二、強(qiáng)化技術(shù)指引，全方位筑牢倫理安全防線

　　一是為各應(yīng)用主體提供明確行為準(zhǔn)則。《指引》圍繞應(yīng)用開發(fā)者、服務(wù)提供者和應(yīng)用使用者三類主體，分別提出系統(tǒng)性規(guī)范要求，明確人工智能研發(fā)、部署、運(yùn)營、使用全過程中的責(zé)任邊界和行為要求。在開發(fā)環(huán)節(jié)，強(qiáng)調(diào)提升可控性、公平性、透明度等目標(biāo)貫穿應(yīng)用開發(fā)與更新，要求開發(fā)者開展倫理安全影響評估、設(shè)置事故信息追溯機(jī)制；在服務(wù)提供環(huán)節(jié)，強(qiáng)調(diào)理性引導(dǎo)、隱私保護(hù)、風(fēng)險提示和應(yīng)急處置；在應(yīng)用使用環(huán)節(jié)，倡導(dǎo)妥善運(yùn)用、審慎提供敏感信息、尊重他人合法權(quán)益。通過建立全鏈條責(zé)任體系，《指引》有助于推動各主體形成規(guī)范意識和責(zé)任意識，減少人工智能應(yīng)用活動中的倫理安全失范行為。

　　二是防范化解人工智能倫理安全風(fēng)險。人工智能風(fēng)險具有復(fù)雜性、隱蔽性、擴(kuò)散性和外溢性等特點(diǎn)，一旦失控，可能對個人、社會乃至國家層面造成較大影響?！吨敢肪劢谷斯ぶ悄芸赡軒淼娜祟愔鲗?dǎo)權(quán)弱化、社會秩序影響、價值體系沖擊、偏見歧視、合法權(quán)益侵害、可持續(xù)生態(tài)壓力等問題，提出覆蓋事前預(yù)防、事中監(jiān)測、事后處置的系統(tǒng)性治理要求。例如，《指引》要求建立必要的應(yīng)急處置與人工干預(yù)機(jī)制，防范人工智能脫離人類監(jiān)督；要求持續(xù)監(jiān)控服務(wù)及運(yùn)行過程，識別發(fā)現(xiàn)倫理安全風(fēng)險并及時處置；要求設(shè)置事故信息追溯機(jī)制，實(shí)現(xiàn)責(zé)任追溯。這些措施有助于提升人工智能風(fēng)險治理能力，增強(qiáng)技術(shù)應(yīng)用的安全性和可控性。

　　三是引導(dǎo)人工智能向善發(fā)展。《指引》堅(jiān)持以人為本、智能向善的理念，強(qiáng)調(diào)人工智能應(yīng)服務(wù)于經(jīng)濟(jì)社會發(fā)展和人民福祉提升，而非削弱人的主體地位或加劇社會不公?！吨敢窂?qiáng)調(diào)公平包容、機(jī)會均等和普惠共享，關(guān)注未成年人、老年人、殘障人士等重點(diǎn)群體權(quán)益，倡導(dǎo)人工智能提升公共服務(wù)公平性與可及性。同時，鼓勵開源創(chuàng)新、知識共享和多元技術(shù)路徑探索，推動人工智能應(yīng)用成果更廣泛惠及社會公眾。這有助于推動人工智能技術(shù)始終與社會公共利益保持一致，引導(dǎo)人工智能始終堅(jiān)守正向價值、堅(jiān)持向善發(fā)展。

　　四是完善倫理安全協(xié)同治理體系。人工智能治理是一項(xiàng)系統(tǒng)工程，既涉及法律法規(guī)、倫理規(guī)范、技術(shù)標(biāo)準(zhǔn)，也涉及社會監(jiān)督、國際合作和公眾參與?！吨敢吩诶砟顚用嫣岢雒艚莨仓?、協(xié)同治理等原則，在實(shí)踐層面提出倫理安全評估、風(fēng)險監(jiān)測、信息提示、投訴反饋等制度安排，為構(gòu)建我國人工智能倫理安全治理體系提供了重要補(bǔ)充。同時，《指引》強(qiáng)調(diào)加強(qiáng)國際銜接與安全互認(rèn)，推動治理規(guī)則、技術(shù)標(biāo)準(zhǔn)和安全基準(zhǔn)兼容互洽、同步演進(jìn)，有助于提升我國在全球人工智能治理中的活躍度和影響力，推動形成開放、合作、共贏的人工智能治理格局。

　　三、構(gòu)建協(xié)同共進(jìn)發(fā)展格局，護(hù)航人工智能高質(zhì)量發(fā)展

　　一是規(guī)范人工智能產(chǎn)業(yè)發(fā)展。《指引》的出臺有助于進(jìn)一步規(guī)范人工智能產(chǎn)業(yè)發(fā)展秩序，推動行業(yè)從重速度、重規(guī)模向重質(zhì)量、重安全、重責(zé)任轉(zhuǎn)變。通過明確倫理安全要求和風(fēng)險防控機(jī)制，減少無序競爭、低水平重復(fù)建設(shè)以及因安全問題導(dǎo)致的產(chǎn)業(yè)風(fēng)險，增強(qiáng)市場主體的合規(guī)意識和長期發(fā)展能力。同時，統(tǒng)一規(guī)范有助于增強(qiáng)社會公眾和市場對人工智能產(chǎn)品與服務(wù)的信任度，推動人工智能實(shí)現(xiàn)規(guī)范、有序、可持續(xù)發(fā)展。

　　二是推進(jìn)人工智能創(chuàng)新生態(tài)建設(shè)。《指引》并非限制技術(shù)創(chuàng)新，而是強(qiáng)調(diào)安全與發(fā)展并重，推動技術(shù)創(chuàng)新更加注重長期價值和社會責(zé)任。通過將可控可信、公平公正、隱私保護(hù)等要求前置到研發(fā)和設(shè)計(jì)階段，有助于推動可信人工智能、隱私計(jì)算、可解釋算法、安全評測等關(guān)鍵技術(shù)發(fā)展。同時，《指引》鼓勵開源生態(tài)建設(shè)、多元技術(shù)探索和協(xié)同創(chuàng)新，有利于形成更加開放包容、健康可持續(xù)的人工智能創(chuàng)新生態(tài)，提升我國人工智能核心競爭力。

　　三是提升智能化社會治理水平。人工智能正在深刻改變社會治理模式?！吨敢酚兄谕苿尤斯ぶ悄茉卺t(yī)療健康、信息傳播、科研教育等領(lǐng)域規(guī)范應(yīng)用，在提升治理效率和治理能力的同時，防止自動決策失當(dāng)、信息操縱、侵害知識產(chǎn)權(quán)等問題影響人身安全和社會公平。特別是在社會治理、公共服務(wù)等關(guān)鍵領(lǐng)域，《指引》強(qiáng)調(diào)普惠可及、程序正當(dāng)、結(jié)果復(fù)核和公眾救濟(jì)機(jī)制，有助于維護(hù)社會公平正義，提升現(xiàn)代化治理能力和治理公信力。

　　四是健全公眾權(quán)益保護(hù)機(jī)制。《指引》更加突出對個人合法權(quán)益的保護(hù)，圍繞隱私保護(hù)、個人信息安全、知情權(quán)、選擇權(quán)、申訴權(quán)等提出明確要求，有助于增強(qiáng)公眾在人工智能時代的安全感和獲得感。同時，《指引》強(qiáng)調(diào)妥善運(yùn)用使用人工智能，防范過度依賴、沉迷使用、虛假信息誤導(dǎo)等問題，并要求加強(qiáng)未成年人、老年人、殘障人士等重點(diǎn)群體保護(hù)。這有助于推動形成安全、可信、健康的人工智能應(yīng)用環(huán)境，更好保障人民群眾合法權(quán)益。（作者：劉博，國家互聯(lián)網(wǎng)應(yīng)急中心黨委副書記、副主任）