拟规定采取防沉迷措施 禁止非法披露个人信息

为促进生成式人工智能技术健康发展和规范应用，国家互联网信息办公室11日就《生成式人工智能服务管理办法（征求意见稿）》向社会公开征求意见。《征求意见稿》共21条，对生成式人工智能产业给出较为详尽的规定，提出提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗，禁止非法获取、披露、利用个人信息和隐私、商业秘密。

多家国内科技巨头均宣布在生成式人工智能产业有相应布局

“国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。”在《征求意见稿》中，明确了对生成式人工智能产业的支持和鼓励态度。

目前，包括百度、腾讯、阿里、华为、京东、360等多家国内科技巨头均已宣布在生成式人工智能产业有相应布局。

4月7日，阿里巴巴大模型产品“通义千问”此前已经开启邀请测试，阿里巴巴集团董事会主席兼首席执行官张勇11日透露表示，阿里巴巴所有产品未来将接入“通义千问”大模型，进行全面改造。3月16日，百度发布了大模型产品“文心一言”，包括五大能力——“文学创作、商业文案创作、数理逻辑推算、中文理解、多模态生成”。

去年4月，腾讯对外披露“混元”AI大模型的研发进展，覆盖NLP（自然语言处理）、CV（计算机视觉）、多模态等基础模型和众多行业模型，近期，混元AI大模型团队还推出了NLP万亿大模型，深化人工智能基础技术。

在生成式AI赛道“群雄逐鹿”的当下，《征求意见稿》的发布，尤为受到外界关注。

向公众提供服务前 应向国家网信部门申报安全评估

在《征求意见稿》中，明确了生成式人工智能的定义，“生成式人工智能”是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。值得注意的是，对生成式人工智能的定义中不仅包含文字，目前常见的“文生图”“文生视频”等也将被纳入管理。管理范围则是，面向中华人民共和国境内公众提供服务的产品。

在准入资格方面，《征求意见稿》提到，在利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。

生成式人工智能产品研制中采用人工标注时，应当制定清晰、具体、可操作的标注规则，对标注人员进行必要培训，抽样核验标注内容的正确性。

《征求意见稿》提到，不能使用生成式人工智能进行炒作。提供者应当指导用户科学认识和理性使用生成式人工智能生成的内容，不利用生成内容损害他人形象、名誉以及其他合法权益，不进行商业炒作、不正当营销。

提供者需要提供可以影响用户信任、选择的必要信息，包括预训练和优化训练数据的来源、规模、类型、质量等描述，人工标注规则，人工标注数据的规模和类型，基础算法和技术体系等。提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责。

《征求意见稿》要求，提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗，利用生成式人工智能生成的内容应当体现社会主义核心价值观，不得含有颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情信息，虚假信息，以及可能扰乱经济秩序和社会秩序的内容。

提供者在提供服务过程中 对用户输入信息和记录承担保护义务

在责任和义务方面，《征求意见稿》尤为强调对个人数据和信息的保护。

《征求意见稿》提到，提供者在提供服务过程中，对用户的输入信息和使用记录承担保护义务。数据包含个人信息的，应当征得个人信息主体同意或者符合法律、行政法规规定的其他情形，不得非法留存能够推断出用户身份的输入信息，不得根据用户输入信息和使用情况进行画像，不得向他人提供用户输入信息。

同时，必须尊重他人合法利益，防止伤害他人身心健康，损害肖像权、名誉权和个人隐私，侵犯知识产权。禁止非法获取、披露、利用个人信息和隐私、商业秘密。

提供者应当建立用户投诉接收处理机制，及时处置个人关于更正、删除、屏蔽其个人信息的请求；发现、知悉生成的文本、图片、声音、视频等侵害他人肖像权、名誉权、个人隐私、商业秘密，或者不符合办法要求时，应当采取措施，停止生成，防止危害持续。提供者应当明确并公开其服务的适用人群、场合、用途，采取适当措施防范用户过分依赖或沉迷生成内容。

值得注意的是，《征求意见稿》还首次对模型优化的时间作出规定。对于运行中发现、用户举报的不符合本办法要求的生成内容，除采取内容过滤等措施外，应在3个月内通过模型优化训练等方式防止再次生成。同时，提供者应当按照《互联网信息服务深度合成管理规定》对生成的图片、视频等内容进行标识。

违反规定有三种处罚措施 最高将处以十万元以下罚款

《征求意见稿》中提到，提供者发现用户利用生成式人工智能产品过程中违反法律法规，违背商业道德、社会公德行为时，包括从事网络炒作、恶意发帖跟评、制造垃圾邮件、编写恶意软件，实施不正当的商业营销等，应当暂停或者终止服务。

违反本办法规定的共有三种处罚措施：法律、行政法规没有规定的，由网信部门和有关主管部门依据职责给予警告、通报批评，责令限期改正。拒不改正或者情节严重的，责令暂停或者终止其利用生成式人工智能提供服务，并处一万元以上十万元以下罚款。构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。 综合新华社等