半月談評論員 杜康

2023年，ChatGPT聊天機器人程序火出圈，越來越多的人開始對人工智能(AI)的功能和使用產生興趣。今年初，Sora一段“文生視頻”再次爆火，通過一段文字描述，AI可以生成60秒鐘的高清視頻。人工智能的能力正在不斷突破人們的想象。

然而，技術大爆發永遠是一把雙刃劍。不少科學家擔心：在不久的未來，人工智能技術會超越人類的智慧，甚至會失控造成嚴重后果。他們呼吁，應該把防范人工智能帶來的風險作為全球優先事項。

正如這些科學家所擔心的那樣，隨著生成式人工智能技術的發展和普及，技術門檻大幅降低，為不法分子提供了機會。2024年6月，公安部網安局披露了多起涉及人工智能技術的深度偽造典型案例。其中一起案件為犯罪嫌疑人白某某利用人工智能軟件，對被害人的圖片進行所謂的“一鍵去衣”處理，批量生成了近7000張淫穢圖片并通過網絡進行販賣。

目前人工智能帶來的威脅大致可分為數據隱私與安全、虛假信息與虛假內容傳播、知識產權侵權、模型偏見與歧視、安全漏洞與攻擊等幾類。以數據隱私與安全為例，生成式人工智能模型通常需要大量的數據進行訓練，這些數據可能包括個人隱私信息，如醫療記錄、個人照片、社交媒體內容等。這些數據一旦泄露或被不當使用，可能導致隱私泄露、身份盜竊等問題。

除了這些可以明顯感知到的風險，未來，還可能有更多“未知風險”，乃至技術失控風險。面對AI的一路狂奔，應從法律、技術、倫理等多方面設置“安全閥門”，及時防范人工智能帶來的風險。

在位于安徽省蕪湖市的“中國視谷”展廳，工作人員為參觀者介紹一款智能焊接機器人 肖本祥 攝

在法律層面，我國已經先后出臺了系列法律法規，包括《關于加強互聯網信息服務算法綜合治理的指導意見》《互聯網信息服務深度合成管理規定》《生成式人工智能服務管理暫行辦法》《科技倫理審查辦法(試行)》《人工智能生成合成內容標識辦法(征求意見稿)》《生成式人工智能服務安全基本要求(征求意見稿)》《生成式人工智能數據標注安全規范(征求意見稿)》等規章、標準或草案。

在上述規章標準的基礎上，我國近年逐步建立起算法備案、大模型備案和倫理審查登記等制度，作為AI安全治理的主要抓手。未來，還需通過完善相關法規，加強對AI生成技術的約束和規范，督促服務提供者和網絡平臺承擔起應有的法律責任，為AI生成內容添加顯著提示標識，禁止生成和發布涉及違法違規、侵權欺詐的內容，從根源上消除可能造成的危害和不良影響。

人工智能這項技術的特殊性在于，其存在脫離人類控制等極端風險，因此，除了政策法規監管之外，安全技術的發展是讓AI不脫軌的另一項重要保障。

無論是從研究的體系化程度、人才密集度、商業驅動力、算力的投入度等方面來看，AI模型安全能力方面的提升，還遠遠落后于性能的提升。所以，技術層面上，要加大對AI安全方面的投入，強化數據安全、隱私保護等技術的研發，加強對人工智能算法與模型的可溯源研究和審查評估研究，運用技術手段反制和鑒別人工智能所生成的內容，努力打造安全可信的人工智能。

在倫理層面，要把嚴格的倫理規范貫穿技術研發全過程?？萍紓惱硎情_展科學研究、技術開發等科技活動需要遵循的價值理念和行為規范，人工智能技術的發展需要遵循倫理先行、敏捷治理的要求，加強倫理風險預警與跟蹤研判，及時動態調整治理方式和倫理規范，以實現負責任的創新。人工智能技術研發人員要堅守科技倫理底線，發現違背科技倫理要求的行為，要主動報告、堅決抵制。

人工智能的未來充滿不確定性。面對人工智能帶來的風險，我們要保持理性和審慎的態度，既充分發揮人工智能的優勢，又最大限度地減少其可能帶來的負面影響，讓人工智能成為推動人類社會發展的強大動力。