提出21条举措，我国拟给生成式人工智能系上“安全带”

人工智能通用大模型横空出世，全世界看到了AIGC（人工智能生成内容）的强大。与此同时，AIGC的可信度、隐私保护、伦理等问题亦引发空前争议。日前，国家互联网信息办公室发布《生成式人工智能服务管理办法（征求意见稿）》（以下简称《管理办法》），提出21条举措，为AIGC的研发和应用划出了底线和红线。业界认为，这是国内首次明确针对生成式人工智能服务征求管理意见，将有利于推动AIGC产业健康稳定发展。

《管理办法》明确了AIGC的“提供者”对研发和应用负有责任，即利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人需要对包括产品应用、安全评估、算法合法性、数据合法性等承担责任。此外，《管理办法》还为AIGC的研发和应用提供了纠偏机制，包括持续优化纠偏、AIGC标识提示、可审查机制、监管引导机制、终止服务机制和惩戒处罚机制。

《管理办法》也对一些可能出现的衍生问题提出防范举措，如要求利用生成式人工智能生成的内容“应当体现社会主义核心价值观”、防止各类歧视、“不得利用算法、数据、平台等优势实施不公平竞争”“采取措施防止生成虚假信息”“防止伤害他人身心健康”等。

上海国际服务贸易网