以大模型为代表的新一代人工智能技术变革仍在加速迭代，为“新质生产力”的发展注入强劲动力， 助力产业智能化升级和经济发展。大模型在产业端已经开始在任务简单、容错率高的场景得到广泛地使 用，例如智能客服、文案生成等场景，但是在医疗疾病诊断、金融投资理财等任务复杂度高、容错率低的 场景，大模型的规模化落地仍然遇到不少阻碍。为进一步释放以大模型为核心的人工智能新技术范式生产 力，需要解决大模型的“可信应用”问题，支撑大模型在金融、医疗、政务等专业领域的深化应用。为此 本报告提出了面向专业领域的大模型可信应用框架，即大模型为核心的智能系统在面向金融、医疗、政务 等专业领域的应用中，为确保应用的专业性、可控性、真实性和安全性，应当如何构建系统的技术架构和 体系。
从技术实现来看，企业建设一体化的大模型可信应用框架目标是在大模型开发和应用的不同环节，施 加相应的技术保障手段，以提升落地应用的可信程度。目前主要手段包括提升数据供给质量、增强模型在 应用领域的专业能力、提高模型生成内容的可控可信、提升智能体推理的可信、使用围栏工具和安全保障 措施、建立全面充分的评测体系、构建“反馈-迭代”的良性循环体系等手段，综合实现大模型在专业领域 中的稳妥应用和持续深化拓展。从产业应用实践来看，目前在金融、医疗、政务等行业中已有大模型应用 框架的落地实践，提升了推理结果的准确专业真实性，并增强了推理过程的透明安全可控，提高了客户对 于大模型应用的信赖程度。
展望未来，本报告中提出的大模型应用框架是推动大模型在产业中规模化落地应用释放价值的初步探索，未来的产业化突破还需要从前沿技术创新探索、可信应用框架落地实施、行业治理体系搭建、产业生 态合作完善等多个维度统筹推进。我们期待产业上下游各方通力协作，共同推动大模型在产业中的规模化 可信应用落地，助力产业智能化升级。
附件：2024大模型行业可信应用框架研究报告-前沿技术创新探索、可信应用框架落地实施
报告首先回顾了大模型基准测试的发展现状,分析了当前基准测试存在的问题和挑战，提出了一套系统化构建大模型基准测试的框架-方升大模型基准测试体系
参数规模扩展在数据量和参数量上将迎来显著跃升;多模态融合实现跨模态的交互与理解，从而拓宽其应用场景和实用价值;大模型小模型化更易于产业落地
分析了AI大模型在汽车行业的应用现状和发展趋势，涵盖了技术演进、产业挑战与企业实践案例;盘古大模型和ModelArtsAI开发生产线，已经在多个车企和商用车场景中成功运用
检索生成主要是对现有的视频素材根据关键词和标签进行检索匹配,再进行相应的拼接和排列组合;仅针对视频的一部分进行生 成,例如视频中人物角色、 动作、背景、风格化、特殊 效果等
中国在AI基础设施和软件层面严重依赖国际厂商,特别是在计算芯片和存储芯片领域;在软件层面,依赖程度更加严重,软件仍是中国各大企业的常用工具占比达59%
以注意力机制为核心的Transformer架构赋能AI在文本、图像、视频生成、文字交互、智能语音和计算机视觉 领域的技术能力增强和应用范围拓宽
生成式人工智能服务管理暂行办法,算力基础设施高质量发展行动计划,关于加快场景创新以人工智能高水平应用促进经济高质量发展的指导意见,国家新一代人工智能创新 发展试验区建设工作指引
中国多年来在人工智能论文发表数量和专利授权数量方面均居世界首位;显著领先于其他国家,中国人工智能专利授权的数量在全球范围内占比达61.3%，位居全球榜首
我国智能算力占比已经超过通用算力，成为整体算力增长的主要驱动力;国算力结构为通用算力：智能算力：超级算力=40%:59%:1%智能算力占比已较大幅度超过通用算力占比
分析了大模型发展趋势挑战的基础上，提出了大模型安全实践总体框架，并从安全性、可靠性、可控性以及评测四个角度对大模型安全技术进行了深度剖析
白皮书将聚焦中国未来核心产业的发展方向，从人工智能、智能制造、大消费、生命科学、碳中和等五大产业出发，探讨中国将如何迎接下一波增长浪潮
大模型领域人才供需比为1.76,整体供大于求,但高端技术岗位如云计算和算法仍紧缺,薪酬涨幅保持在30%-50%,65.79%每周工作超50小时,从业者中82%因技术和前景而主动加入
