国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布《生成式人工智能服务管理暂行办法》(以下称《办法》),自2023年8月15日起施行,成为国家首次针对于当下爆火的生成式人工智能(生成式AI,或AIGC)产业发布规范性政策。
《办法》提出国家坚持发展和安全并重、促进创新和依法治理相结合的原则,采取有效措施鼓励生成式人工智能创新发展,对生成式人工智能服务实行包容审慎和分类分级监管,明确了提供和使用生成式人工智能服务总体要求。
同时,《办法》提出了促进生成式人工智能技术发展的具体措施,明确了训练数据处理活动和数据标注等要求;规定了生成式人工智能服务规范,明确生成式人工智能服务提供者应当采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务,按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识,发现违法内容应当及时采取处置措施等。
此外,《办法》还规定了安全评估、算法备案、投诉举报等制度,明确了法律责任。
4月11日,国家互联网信息办公室发布了《关于<生成式人工智能服务管理办法(征求意见稿)>公开征求意见的通知》(参考文章:《重磅!首个国家AIGC监管文件,生成式AI服务管理办法公布征求意见稿》)。今日,定稿版的《办法》在意见稿的基础上做了一定程度的修订和优化。
《生成式人工智能服务管理暂行办法》全文内容
我国的人工智能产业集群表现为新型创新区→城市→区域→全国→全球的空间结构特征,依托狭小的物理空间打造无限的网络空间产业创新生态
增进人类福祉:以人为本,可持续性;尊重生命权利:合作,隐私;坚持公平公正:公平,共享;合理控制风险:共享;合理控制风险:外部安全,内部安全
《新一代人工智能发展规划》,《促进新一代人工智能产业发展三年行动计划(2018-2020年)》,《关于加强科技伦理治理的意见》,《中国关于加强人工智能伦理治理的立场文件》
《算法透明性和可问责性的声明》,《2018年恶意伪造禁令法案》,《美国人工智能倡议》,《国家人工智能研究与发展战略计划》,《2019年深度伪造报告法案》
从技术合作关系的密度看,北京市,广东省和上海市构成了人工智能产业集群网络结构的三个极点;北京,广东,上海,江苏,安微,四川,湖北,湖南,重庆,山东和福建之间存在密集的人工智能技术合作关系
排第一的是长江三角洲地区,占比 30.95%;排第二的是京津 冀地区,占比 29.36%;排第三的是珠江三角洲地区,占比 26.45%;排第四的是川渝地区,占比 3.55%
构成具有全球竞争力人工智能产业集群的首要因素是企业簇群及其产业创新生态;人工智能产业集群发展所倚重的科技创新要素不仅包括数据生态 算力 算法和人才
刘刚教授发布了《中国新一代人工智能科技产业发展 2023》人工智能企业及其创新活动构成了人工智能产业集群发展的微观基础,我国人工智能企业数量超过3000家
模型规模增长产生了接近人类的高级能力,通用人工智能或将到来;有人类参与的指令微调技术是近年来人工智能的另一 大技术特点
人工智能与实体经济融合发展,推动了相关产品服务的新一轮变革;人工智能作为助手融入新领域,极大丰富了人们的数字生活
网络安全基本属性;透明性,实现人工智能开发过程的可审计以及可追溯;可解释性,可被人理解其运行逻辑的特性;公平性,保证处理结果的公正 中立
用户数据用于训练,放大隐私信息泄露风险;算法模型日趋复杂,可解释性目标难实现;可靠性问题仍然制约人工智能关键领域应用