如何让AI更可靠、可控、可信？“中国发展论坛·2025”给出答案

由中国致公党中央委员会主办的“中国发展论坛·2025”4日在河南郑州航空港经济综合实验区举办，人工智能应用场景成为与会各方探讨的主要话题。

综合中新社、郑州“大河财立方”报道，当日，全国政协副主席、致公党中央主席蒋作君在论坛上表示，“人工智能+”的“+”是深度融合、范式变革和转型重塑的三重体现，从数字化水平较高的领域率先突破，如互联网搜索、购物、社交等数字原生领域已经实现人工智能应用的规模化落地，金融、医疗、交通等数字化程度较高的行业随之紧跟，之后制造、能源等更多实体经济领域将实现深度应用。

从标准建设到场景深耕 “人工智能+医疗”加速落地

中国国家卫健委党组成员、副主任郭燕红在会上系统介绍了中国“人工智能+医疗卫生”的推进路径与阶段性成果。她指出，国家卫健委正积极贯彻落实国务院《关于深入实施“人工智能+”行动的意见》，今年10月，联合多部门印发专项实施意见，明确8个重点方向、24项任务，推动人工智能在医疗健康领域的规范应用。

目前，国家卫健委已发布一批卫生健康行业人工智能应用场景参考指引，覆盖医疗服务、基层公共卫生、健康产业、医学教育等领域；制定了医疗健康AI应用场景分类、机器人应用等专项标准。国家全民健康信息平台已基本建成，省统筹区域全民健康信息平台不断完善，8000多家二级以上公立医院接入区域全民健康信息平台。医学人工智能辅助诊疗系统试点已在江苏、山东、广东等9个省份落地，辅助医生对常见病和多发病进行诊疗。

郭燕红特别提到，中国国家卫健委已在包括河南在内的6个省份布局人工智能中试基地，旨在汇聚资源、协同赋能，加快构建临床专病数据集，支撑行业垂直领域大模型训练体系。

人机协同新范式有突破 从“替代工具”到“创新伙伴”

香港科技大学（广州）协理副校长、讲座教授熊辉从人才与生产力变革角度，描绘了人工智能时代的新型劳动图景。他认为，随着开源大模型普及，“人工智能军备竞赛”正从“贵族战争”转向“平民化竞争”，中小企业用百万元级算力即可开发垂类智能应用，极大降低了创新门槛。

但真正的差距不在算力或模型，而在人的认知适配能力。“现在不是机器替代人，而是‘会用AI的人’替代‘不会用AI的人’。”熊辉强调，未来劳动者须具备高效调用AI工具完成复杂任务的能力。他举例说，自己撰写50分钟演讲稿仅需几分钟：先向AI输入核心思想，再筛选、组合其生成的案例与故事，最终形成个性化讲稿。这种“人机协同”模式使其工作效率提升数倍。为此，他主张教育体系需要改革：从“博闻强识”转向“知行合一”，强化场景式教学，培养学生提问能力、鉴赏能力和协同创新能力。同时，要重视那些难以被数据化的“人类优势”——如情感、创造力、系统思维、领导力等。

中国科学院自动化所研究员王亮进一步补充，当前AI仍处于“有智能、无智慧”阶段，在物理常识、语言歧义、复杂推理等方面存在明显短板。因此，推动AI从“专用”走向“通用”，从“单点智能”迈向“人机融合”，将是下一阶段的关键突破方向。

安全挑战迫在眉睫 密码技术筑牢AI可信根基

面对人工智能快速迭代带来的安全挑战，中国科学院院士、清华大学教授王小云说：“当前大模型安全事故频发，安全防范技术已迫在眉睫。”她明确提出——密码技术是人工智能安全的基石。

王小云分享了其团队在AI安全攻防前沿的突破性成果，展示了密码学在保障AI可信应用方面的实践价值。比如，在图像真实性验证方面，其团队通过一项证明技术，实现2.8秒内判定一张图片是否由AI生成，效率提升20倍，一些技术已进入产业化阶段。王小云呼吁，应尽快启动人工智能安全立法，推动建立可量化、可测评的安全评估体系。“我们不仅要让AI聪明，更要让它可靠、可控、可信任。”

 编辑：田共