《科创板日报》7月4日讯（记者 黄心怡） 今日，2024世界人工智能大会暨人工智能全球治理高级别会议正式开幕。会上，人工智能的应用落地成为了热议焦点。业内大咖纷纷指出，人工智能发展既要重视大模型技术研发，更要重视大模型应用。而智能体成为最被看好的AI应用发展方向。同时，AI在快速发展的过程中也要兼顾安全与性能，应构建安全优先、又能保证AI能力长期发展的技术体系。

▌工信部：加快发展人工智能产业

工信部副部长单忠德在发言中表示，我国已经培育了421家国家级智能制造示范工厂，万余家省级数字化车间和智能工厂，推动制造业高端化、智能化、绿色化发展。人工智能企业的数量也超过了4500家，算力规模位居全球第二，推动制定了48项智能制造相关的国际标准，推动完善全球人工智能产业发展的生态。

后续，工信部将围绕强化开放合作、推动产业创新、夯实产业基座、加快应用落地四方面开展合作。

一是强化开放合作，深入践行《全球人工智能治理倡议》，秉持开放包容、合作共赢的态度，坚持引进来和走出去相结合，在技术、产品标准、服务安全等方面，与各国加强交流合作，推动协同具有广泛共识的人工智能治理框架和标准规范，让人工智能发展更好地服务于人类生活。

二是推动产业创新，聚焦关键核心技术和重要的智能装备，深化产学研合作创新，加大投入、加快创新，积极培育智能产品、智能装备和智能服务，加速智能技术产业化，扎实推动科技创新和产业创新的深度融合。

三是夯实产业基座，加快5G网络和千兆光网的建设，扩大网络覆盖范围，深化算网融合，稳步构建智能高效的融合基础设施，建设高质量的工业数据集，扩大数据应用，努力建成广广覆盖、高效率、安全稳定运行的智能基础设施，为智能化发展提供有力支撑。

四是加快应用落地，充分发挥中国制造业发展的优势，以需求为牵引，积极推进智能技术在制造、交通、民生等垂直行业的推广应用和迭代升级，支持制造业企业加快数字化转型、智能化改造，培育一批智能车间、智慧工厂，加快推动人工智能赋能新型工业化。

▌AI安全和性能要平衡

清华大学苏世民书院院长、清华大学人工智能国际治理研究院院长薛澜在演讲中表示，目前人工智能可能带来一些风险。

第一，技术内在问题，包括所谓幻觉，另外自主人工智能系统长远来讲，受到自主发展可能，对人类社会的威胁；第二，基于技术开发带来风险，包括数据安全问题、算法歧视、能源环境等等问题；第三，技术应用，包括误用或者滥用，长远对社会就业带来影响。这些问题都是不可忽视的。

在他看来，中国在过去这些年的实践当中已经建立了相对比较完整的体系，首先在底层产业应用方面有一系列法律法规去推动人工智能的合理发展。针对算法、算力、数据有一系列治理规则。同时，针对它的风险也有很多基本规则。2019年发布《人工智能治理准则》，包括《伦理准则》。另外，针对相关很多问题的法律也出台，针对专项及具体场景应用都出台相应治理规则。构建了多维度、多层次、多领域、多举措的整体治理体系。

上海人工智能实验室主任、首席科学家周伯文提出了探索人工智能45度平衡率的技术主张。他认为，AI发展是失衡的，AI模型安全的提升还远远落后于性能。

“如果把横轴视为AI的技术能力，纵轴是安全标识、安全赋能与评估测量等，可以看到AI的技术能力呈指数级增长，而在安全性上则呈现离散化、碎片化且后置的特性。”

AI发展不均衡背后的原因是两者投入上的巨大差异。安全度投入远远落后于AI投入，目前世界上只有1%对齐或安全优先考量。

周伯文认为，可信AGI（通用人工智能）需要兼顾安全与性能，既能AI安全优先、又能保证AI能力长期发展的技术体系，他称其为“AI 45度平衡率”。目前，上海探索一条以因果为核心的路径，取名为可信AGI的“因果之梯”，分为泛对齐、可干预、能反思。

其中，“泛对齐”包含最前沿的人类偏好对齐技术；“可干预”包含AI系统进行动态干预，探究其因果安全技术；“能反思”要求AI系统不仅追求高效的执行任务，还能够审视自身行为的外在影响和潜在风险，从而确保性能同时保证安全和道德边界不被突破，这阶段技术包括基于价值的训练、因果可解释性、推理等等。

周伯文介绍，从全球来看，AI安全和性能技术发展主要停留在第一阶段，部分在尝试第二阶段，等真正实现AI安全与性能平衡必须完善第二阶段，并勇于攀登第三阶段。

▌智能体成AI应用重要方向

中国电信集团有限公司董事长柯瑞文在现场分享了三点思考：

一是人工智能发展需要新型数字信息基础设施提供支撑。新型数字信息基础设施的基本特征是充分发挥网络的技术，发挥云计算的核心作用，推动云和网的融合，提供智能化的连接和算力服务。

二是人工智能发展既要重视大模型技术研发，更要重视大模型应用。在内部应用基础上，中国电信全面开放场景，联合产业伙伴推动大模型深度应用。在工业、教育、医疗、政务等领域推出30多个行业大模型应用，已服务7000多家政企客户。

三是人工智能发展需要共建开放生态，共同推进治理。人工智能发展涉及芯片、云网、模型、应用等产业链各个领域，将催生大量融合创新的合作机会，需要产业各界立足自身禀赋，在技术共创、数据共享、场景开放、人才培养、资本合作等方面携手建立开放生态，实现互利共赢。

华为常务董事、华为云CEO张平安则提到了行业应用的重要性。他表示，中国的AI发展离不开算力基础设施的创新，并且要敢于开放行业场景，让AI在行业应用上领先。

“中国的AI发展道路，追求的应该是在行业领域构筑大模型的全球领先地位。如果各行各业都积极拥抱AI，积极的开放行业的业务场景，中国很有机会在2B领域构筑起全球的领先优势。”

张平安介绍，以钢铁行业为例，盘古大模型已经在宝钢的一条热轧生产线上线，预测钢板精度提高5%，每年有望多生产2万吨钢板，增收9000多万元。基于华为大模型的这个钢铁行业AI应用解决方案也入围了本次大会的“卓越人工智能引领者奖”（SAIL奖）。

百度创始人、董事长兼首席执行官李彦宏谈及了AI应用的发展路径。他表示，要跳出移动时代的思维逻辑，避免掉入“超级应用陷阱”，不是只有10亿DAU的应用才叫成功。同时，李彦宏指出，智能体是开发最简单的AI应用，“也是我们最看好的AI应用的发展方向”。

在他看来，大模型的重点还是“卷应用”，“没有应用，光有基础模型，不管是开源还是闭源都一文不值。”

他认为，医疗、教育、金融、制造、交通、农业等各行业领域，未来都会依据自己的场景和特有经验、规则、数据等等，做出各种智能体，将会出现数百万量级的智能体，形成庞大生态。

蚂蚁集团董事长兼CEO井贤栋表示，在移动互联网时代，生活、医疗、金融等场景中涌现出了一批优秀的应用，形成互联互通的网络对外提供服务。在大模型时代，智能体是新的应用范式，蚂蚁也在探索智能服务新可能。“我们相信，通过专业智能体的深度连接，Al会像互联网一样，带来服务的代际升级。”