随着数字化的深入发展,智能算法已经成为基础性、通用性的技术,持续在经济社会的各个领域应用发展。从互联网领域中的推荐算法、AI生成内容(AIGC),到产业领域中的自动驾驶汽车、医疗AI、工业质检AI,再到社会公共服务中的便民应用,可见算法为数字经济和社会的高质量发展“提质增效”。
与此同时,算法的广泛应用也带来一些负面问题,诸如信息茧房、隐私侵犯、大数据杀熟、算法滥用等。为此,国内外开始探索建立算法治理的新路径新举措,更好地保障可信的、负责任的、以人为本的算法技术创新与应用。
在这些背景下,腾讯研究院法律研究中心研究推出了《人工智能时代的算法治理报告2022——构建法律、伦理、技术协同的算法治理格局》。报告立足于算法的技术趋势和行业应用现状,从法律监管、伦理治理、技术治理三个层面梳理总结国内外在算法治理方面的实践做法,以期通过多元参与、敏捷灵活、精准有效的算法治理,保障算法技术创新与应用健康、有序、繁荣发展。
当前,在算法技术创新中,主要有大模型、合成数据和生成性AI三个趋势。其中,大模型无疑是最为重要的发展趋势之一。相较于过去功能较为单一的算法模型而言,大模型具有更强的通用性。因此,大模型也意味着“AI工业化”的到来。AI工业化是指,AI具备了标准化、模块化、自动化的特征,能够大规模地在产业中落地应用。大模型正体现了AI标准化、模块化、自动化的实现路径,并且大模型形成的成本边际效应,极大地节约了AI应用成本。
附件:2022人工智能时代的算法治理报告-构建法律、伦理、技术协同的算法治理格局
受基层影像医师学历偏低和经验不足等因素影响,基层影像设备诊疗能力并未被完全释放,为人工智能医学影像产品在基层落地提供巨大市场机遇
第一级银行业金融机构未在任何业务建立模型分级方法/流程;第二级银行业金融机构从业务和技术层面;第三级银行业金融机构明确模型分级原则方法和操作要求
OpenAI提出DALLE模型,可以根据用户输入的文本生成对应的图像,Imagen模型,CogView,VQ-Diffusion 模型以及 NUWA-infinity 等效果同样出色
谷歌CVPR 2022拥有18亿参数,并使用30亿的 标注图像进行训练,在ImageNet上取得了新的记录90.45%,证明了视觉大模型(30亿参数)在广泛视觉问题上的有效性
多模态数据具有异构性 多模态数据的关联难度表示较大 多模态知识融合困难 多模态问答大多只能处理简单的问题 多模态知识问答推理能力弱 可解释性差
我国新一代人工智能治理工作框架应整合社会各界对AI社会技术复合体的离散性认知,突破AI包容审慎实践的探索,建立基于“逻辑-秩序-监管“的人工智能治理工作框架
高增长:未来五年全球人工智能市场规模平均增速将超过20%;高集中:软件占比近40%硬件产品占比接近35%;高壁垒:渗透率还不到4%
在规划设计阶段机器学习场景中固有的不可预测性,传达实施偏差会进一步加剧;在研发部署阶段模型运行之后的动态更新缺乏足够验证等挑战
构建面向可持续发展的人工智能技术体系,推动人工智能技术可用、可靠、可信,其内涵包括提升技术安全和构建技术管理机制两个层面工作
企业作为落实人工智能治理原则的重要主体,形成覆盖人工智能产品全生命周期的风险管理机制,提出了面向可持续发展的人工智能治理基本框架
数据不完备和滥用风险突出而损害用户的权益;人工智能算法存在固有缺陷在可解释性鲁棒性偏见歧视等方面尚存在局限;企业人工智能管理体系不完善
调度决策外卖调度系统困住骑手;个性化推荐电商场景下的信息茧房和马太效应;内容治理如何守护清朗健康的网络环境;人工智能可以放心使用吗
全球人工智能市场收支规模达850厅美元,预测,2022年该市场规模将同比增长约20%至 1017厅美元,并将于2025年突破2000厅美元大关, CAGR 达24.5%
头部科技企业先后发布了AI治理战略和治理体系,成立了相关委员会和工作组,聚焦企业层面的AI治理和风险管理体系,可信AI技术和保障工具也在蓬勃发展