规范生成式人工智能服务,七部门联合发文→

    

近日,国家网信办联合国家发改委、教育部、科技部等七部门公布《生成式人工智能服务管理暂行办法》(以下称《办法》),自8月15日起施行。
《办法》提出国家坚持发展和安全并重、促进创新和依法治理相结合的原则,采取有效措施鼓励生成式人工智能创新发展,对生成式人工智能服务实行包容审慎和分类分级监管。要点梳理如下


什么是生成式人工智能技术?


生成式人工智能技术是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术
生成式人工智能服务提供者是指利用生成式人工智能技术提供生成式人工智能服务(包括通过提供可编程接口等方式提供生成式人工智能服务)的组织、个人。
生成式人工智能服务使用者是指使用生成式人工智能服务生成内容的组织、个人。

图片


提供和使用生成式人工智能服务

必须遵守哪些规定?


  • 坚持社会主义核心价值观,不得生成煽动颠覆国家政权、推翻社会主义制度,危害国家安全和利益、损害国家形象,煽动分裂国家、破坏国家统一和社会稳定,宣扬恐怖主义、极端主义,宣扬民族仇恨、民族歧视,暴力、淫秽色情,以及虚假有害信息等法律、行政法规禁止的内容;

  • 在算法设计、训练数据选择、模型生成和优化、提供服务等过程中,采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视;

  • 尊重知识产权、商业道德,保守商业秘密,不得利用算法、数据、平台等优势,实施垄断和不正当竞争行为;

  • 尊重他人合法权益,不得危害他人身心健康,不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益;

  • 基于服务类型特点,采取有效措施,提升生成式人工智能服务的透明度,提高生成内容的准确性和可靠性。

图片


生成式人工智能服务提供者

应当遵循哪些规范?


  • 提供者应当明确并公开其服务的适用人群、场合、用途,指导使用者科学理性认识和依法使用生成式人工智能技术,采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。
  • 提供者对使用者的输入信息和使用记录应当依法履行保护义务,不得收集非必要个人信息,不得非法留存能够识别使用者身份的输入信息和使用记录,不得非法向他人提供使用者的输入信息和使用记录。

  • 提供者应当依法及时受理和处理个人关于查阅、复制、更正、补充、删除其个人信息等的请求。

图片

  • 提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。

  • 提供者发现违法内容的,应当及时采取停止生成、停止传输、消除等处置措施,采取模型优化训练等措施进行整改,并向有关主管部门报告。

  • 提供者发现使用者利用生成式人工智能服务从事违法活动的,应当依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施,保存有关记录,并向有关主管部门报告。

本文来源:央视新闻微信公众号 (ID:cctvnewscenter)