新闻中心

当前位置: 首页 > 新闻中心 > 学院新闻 > 正文

Hinton、Bengio、张亚勤等签署共识:北京AI安全国际对话收官,搭建中外AI安全合作平台

来源:       发布时间:2024-03-24

*本文转载自智源研究院

3月10-11日,中国工程院院士、清华大学智能产业研究院(AIR)院长张亚勤出席“北京AI安全国际对话”,这是我国首个AI安全高端闭门论坛。本次对话由智源研究院发起,智源学术顾问委员会主任、AIR卓越访问教授张宏江与图灵奖得主Yoshua Bengio担任共同主席。Geoffrey Hinton、姚期智、Stuart Russell、傅莹、薛澜等30余位专家参会。

11B617

与会专家围绕国际AI安全技术前沿研究、产业应用实践、政策引领等话题,在为期两天的对话中展开深入探讨,共同拟定并签署了《北京AI安全国际共识》,提出人工智能风险红线及安全治理路线,同时呼吁“在人工智能安全研究与治理上的全球协同行动,是避免不受控制的前沿人工智能发展为全人类带来生存风险的关键。”

1A2F9

本次对话邀请了众多国际顶尖AI领域专家参与,包括图灵奖得主Geoffrey Hinton、Yoshua Bengio、姚期智,UC Berkeley教授人类兼容人工智能中心主任Stuart Russell、傅莹女士、清华大学智能产业研究院(AIR)院长张亚勤、清华大学苏世民书院院长薛澜、南洋理工大学副校长林国恩、Anthropic安全专家Sam Bowman、未来人类研究所高级研究员Toby Ord、加州大学洛杉矶分校人工智能治理中心国际治理主管Robert Trager、加州大学伯克利分校教授,麦克阿瑟奖得主Dawn Song、施瓦茨·赖斯曼技术与社会研究所所长Gillian Hadfield、英国AI安全研究所CTO Jade Leung、英国先进研究与创新署(ARIA)项目总监David Dalrymple,北京大学AI安全与治理中心执行主任杨耀东,以及来自零一万物、 智谱AI 、瑞莱智慧等国内创业公司,多家互联网企业与投资机构代表,以及智源研究院理事长黄铁军、院长王仲远、副院长林咏华等。

28DE5

对话首先围绕AI安全领域现状、AI安全红线定义、国际合作方式、生物与数字智能、产业中的AI安全实践等主题展开探讨,并就常态化交流、经验分享、科研合作、人才培养机制等提出了设想。
在共识拟定环节,与会者讨论并一致认为,避免人工智能导致的灾难性全球后果需要我们采取果断的行动。协同合作的技术研究与审慎的国际监管机制的结合可以缓解人工智能带来的大部分风险,并实现其诸多潜在价值。我们必须继续坚持并加强国际学术界和政府在安全方面的合作。共识从AI风险红线、落实治理路线两个角度进行了阐述(部分内容如下图)。

2E7C6

共识全文链接:https://baai.org/l/IDAISBeijing
2019年5月,在智源研究院的倡导下,北京多家高校、科研机构与企业联合发布了《人工智能北京共识》,为规范和引领中国人工智能健康发展提供“北京方案”。2024年3月,此次智源研究院发起的“北京AI安全国际对话”成功举办,不仅加强了中国与国际AI安全领域的交流与合作,也推动了全球AI安全技术的发展和共识形成,为我国深度参与国际AI安全合作搭建了面向世界的平台。


上一条:AIR赛事|AXS挑战赛 Sim2Real阶段,启动! 下一条:ICLR 2024|AIR亮点论文解读

关闭

相关新闻

最新动态

业务合作:airoffice@air.tsinghua.edu.cn
招生招聘:airhr@air.tsinghua.edu.cn
联系电话:(010)82151160  

办公地点:北京市海淀区清华科技园启迪科技大厦C座12层

官方微信

京ICP备15006448号  |   版权所有©清华大学智能产业研究院