如何平衡ai应用与治理
2025-03-27 15:09:19 来源：法治日报·法治周末
《法治周末》记者 仇飞
“可进人数37人，已进人数113人”，3月26日上午10时45分，刚到博鳌亚洲论坛2025年年会“ai：如何做到应用与治理的平衡推进”分论坛的开会时间，会场门口的显示屏已显示“超载”状态。
ai有多热？从参会人员对这场在博鳌展开的ai大讨论的关注度中，可见一斑。
分论坛上，与会嘉宾围绕如何全面科学地评估ai给人类带来的潜在影响和风险、如何实现ai的全球治理等话题进行探讨。
安全和发展可以并行不悖
“过去一年人工智能取得了巨大进展，规模化发展虽有所放缓，但推理阶段的创新成为新的重点。”清华大学智能产业研究院院长张亚勤认为，deepseek的出现带来了震撼性的创新，“ai正从信息智能向物理智能（如无人驾驶、机器人）演进，并进一步迈向生物智能（如脑机接口、生物体大模型）”。
例如，无人驾驶技术的发展，百度在武汉的萝卜快跑项目，展示了ai在具身智能领域的巨大潜力。
中国科学院自动化研究所研究员、联合国人工智能高层顾问机构专家曾毅则认为，deepseek在小数据、小算力条件下实现了更高的智能表现，其关键在于采用了类似人脑丘脑的“路由机制”优化算力分配，而非整体更新所有神经网络权重。这种机制虽非完全模仿人脑，但在计算进化上与生物演化异曲同工。未来人工智能的发展不仅要在行为层面达到类人水平，还将在计算机制上受到自然演化规律的启发，不仅学习机制，甚至发育机制都会成为借鉴对象。
对于ai发展与安全的关系，在张亚勤看来，生成式ai通过智能体加速发展，但智能体的不可控性带来了更大的安全风险。
曾毅则认为，过去的讨论认为人工智能的发展速度超前，而安全护栏建设滞后，导致风险。经过探索，科学家们找到了提升安全性的技术方案，提升ai模型的安全能力对问题求解能力的影响微乎其微，“说明安全与发展可以并行不悖”。
ai 治理的路径选择
解决ai安全与发展的问题，迫切需要在ai治理的路径上做出选择。
中国社科院大学教授、国务院原副秘书长江小涓认为，ai治理的进展有限，从阿瑟马人工智能原则提出至今，许多治理原则只是停留在讨论层面，缺乏落地执行，实践才是最大挑战。
“deepseek的出现打破了ai行业的垄断，从寡头控制变为真正的市场竞争，使ai从技术能力转向产业能力。”江小涓强调，在竞争市场中，市场机制能够自发解决许多问题，不必过度依赖高层政策或原则性讨论。
芬兰前总理埃斯科·阿霍则从历史和技术发展的角度，提出需要通过国际合作和标准制定来实现ai的均衡发展。他认为，ai治理需要多方利益相关者的参与，包括企业、政府和科学家，共同形成专家组或委员会。
曾毅建议，应发挥联合国等国际组织的核心作用，通过全球合作来推动ai技术的公平应用。
vivo首席安全官鲁京辉则提出，ai治理需要形成共识，但仅靠共识是不够的，还需考虑地缘政治等因素。他强调，企业需要一种动态、敏捷的治理模式来平衡发展与安全。
责编：王京仔