新闻中心

当前位置: 首页 > 新闻中心 > 学院新闻 > 正文

Hinton、Bengio、张亚勤等签署共识：北京AI安全国际对话收官，搭建中外AI安全合作平台

来源：       发布时间：2024-03-24

*本文转载自智源研究院

3月10-11日，中国工程院院士、清华大学智能产业研究院（AIR）院长张亚勤出席“北京AI安全国际对话”，这是我国首个AI安全高端闭门论坛。本次对话由智源研究院发起，智源学术顾问委员会主任、AIR卓越访问教授张宏江与图灵奖得主Yoshua Bengio担任共同主席。Geoffrey Hinton、姚期智、Stuart Russell、傅莹、薛澜等30余位专家参会。

11B617

与会专家围绕国际AI安全技术前沿研究、产业应用实践、政策引领等话题，在为期两天的对话中展开深入探讨，共同拟定并签署了《北京AI安全国际共识》，提出人工智能风险红线及安全治理路线，同时呼吁“在人工智能安全研究与治理上的全球协同行动，是避免不受控制的前沿人工智能发展为全人类带来生存风险的关键。”

1A2F9

本次对话邀请了众多国际顶尖AI领域专家参与，包括图灵奖得主Geoffrey Hinton、Yoshua Bengio、姚期智，UC Berkeley教授人类兼容人工智能中心主任Stuart Russell、傅莹女士、清华大学智能产业研究院（AIR）院长张亚勤、清华大学苏世民书院院长薛澜、南洋理工大学副校长林国恩、Anthropic安全专家Sam Bowman、未来人类研究所高级研究员Toby Ord、加州大学洛杉矶分校人工智能治理中心国际治理主管Robert Trager、加州大学伯克利分校教授，麦克阿瑟奖得主Dawn Song、施瓦茨·赖斯曼技术与社会研究所所长Gillian Hadfield、英国AI安全研究所CTO Jade Leung、英国先进研究与创新署（ARIA）项目总监David Dalrymple，北京大学AI安全与治理中心执行主任杨耀东，以及来自零一万物、 智谱AI 、瑞莱智慧等国内创业公司，多家互联网企业与投资机构代表，以及智源研究院理事长黄铁军、院长王仲远、副院长林咏华等。

28DE5

对话首先围绕AI安全领域现状、AI安全红线定义、国际合作方式、生物与数字智能、产业中的AI安全实践等主题展开探讨，并就常态化交流、经验分享、科研合作、人才培养机制等提出了设想。
在共识拟定环节，与会者讨论并一致认为，避免人工智能导致的灾难性全球后果需要我们采取果断的行动。协同合作的技术研究与审慎的国际监管机制的结合可以缓解人工智能带来的大部分风险，并实现其诸多潜在价值。我们必须继续坚持并加强国际学术界和政府在安全方面的合作。共识从AI风险红线、落实治理路线两个角度进行了阐述（部分内容如下图）。

2E7C6

共识全文链接：https://baai.org/l/IDAISBeijing
2019年5月，在智源研究院的倡导下，北京多家高校、科研机构与企业联合发布了《人工智能北京共识》，为规范和引领中国人工智能健康发展提供“北京方案”。2024年3月，此次智源研究院发起的“北京AI安全国际对话”成功举办，不仅加强了中国与国际AI安全领域的交流与合作，也推动了全球AI安全技术的发展和共识形成，为我国深度参与国际AI安全合作搭建了面向世界的平台。


上一条：AIR赛事｜AXS挑战赛 Sim2Real阶段，启动！ 下一条：ICLR 2024｜AIR亮点论文解读

【关闭】

相关新闻

AIR 科研｜LLM RL最强算法，清华AIR-字节跳动SIA-Lab联合发布

清华大学智能产业研究院（AIR）与字节跳动（ByteDance）联合实验室 SIA-Lab 开源了其最新研发的大规模 LLM 强化学习系统 —— Decoupled Clip and Dynamic sAmpling Policy Optimization（DAPO）。在纯 RL 端的比较下超越了 DeepSeed R1 模型所使用的 GRPO 算法，取得新的 SOTA 结果。 •作者：禹棋赢，张正，陈江捷，于鸿利，戴炜楠，宋宇轩，周浩，刘菁菁，马维英，张亚勤，严林，乔木，Yonghui Wu，王明轩等（...

2025/03/19

【点击预约直播】张亚勤对话诺奖得主巴里·马歇尔

人工智能（AI）正以前所未有的速度颠覆医疗领域，从疾病诊断到精准治疗，从药物研发到健康管理，这场技术革命将如何改写人类健康的未来？3月21日 ，清华大学智能产业研究院（AIR）院长张亚勤教授，将对话 2005年诺贝尔生理学及医学奖得主巴里·马歇尔（Barry Marshall） ，共同探讨AI与医学融合的前沿趋势与无限可能

2025/03/19

重磅首发！清华AIR与亚信科技联合发布《DeepSeek赋能自智网络高阶演进评测报告》

2025年2月28日，清华大学智能产业研究院（AIR）与亚信科技联合发布《DeepSeek赋能自智网络高阶演进评测报告》中英文版。该报告为通信行业首份系统性评估DeepSeek等基础大模型对自智网络应用适配性的评测报告。报告从语义解析、意图识别、推理能力、自主规划、知识检索、文本生成等多项基模能力维度全面评估了DeepSeek及其他基模面向自智网络各应用场景的可用性与适配性。报告旨在为基础大模型赋能自智网络向高阶演进提供科学依...

2025/03/19

最新动态

业务合作：airoffice@air.tsinghua.edu.cn
招生招聘：airhr@air.tsinghua.edu.cn
联系电话：(010)82151160  

办公地点：北京市海淀区清华科技园启迪科技大厦C座12层

官方微信

京ICP备15006448号  |   版权所有©清华大学智能产业研究院