Hinton、Bengio、张亚勤等签署共识：北京AI安全国际对话收官，搭建中外AI安全合作平台

来源：发布时间：2024-03-24

*本文转载自智源研究院

3月10-11日，中国工程院院士、清华大学智能产业研究院（AIR）院长张亚勤出席“北京AI安全国际对话”，这是我国首个AI安全高端闭门论坛。本次对话由智源研究院发起，智源学术顾问委员会主任、AIR卓越访问教授张宏江与图灵奖得主Yoshua Bengio担任共同主席。Geoffrey Hinton、姚期智、Stuart Russell、傅莹、薛澜等30余位专家参会。

11B617

与会专家围绕国际AI安全技术前沿研究、产业应用实践、政策引领等话题，在为期两天的对话中展开深入探讨，共同拟定并签署了《北京AI安全国际共识》，提出人工智能风险红线及安全治理路线，同时呼吁“在人工智能安全研究与治理上的全球协同行动，是避免不受控制的前沿人工智能发展为全人类带来生存风险的关键。”

1A2F9

本次对话邀请了众多国际顶尖AI领域专家参与，包括图灵奖得主Geoffrey Hinton、Yoshua Bengio、姚期智，UC Berkeley教授人类兼容人工智能中心主任Stuart Russell、傅莹女士、清华大学智能产业研究院（AIR）院长张亚勤、清华大学苏世民书院院长薛澜、南洋理工大学副校长林国恩、Anthropic安全专家Sam Bowman、未来人类研究所高级研究员Toby Ord、加州大学洛杉矶分校人工智能治理中心国际治理主管Robert Trager、加州大学伯克利分校教授，麦克阿瑟奖得主Dawn Song、施瓦茨·赖斯曼技术与社会研究所所长Gillian Hadfield、英国AI安全研究所CTO Jade Leung、英国先进研究与创新署（ARIA）项目总监David Dalrymple，北京大学AI安全与治理中心执行主任杨耀东，以及来自零一万物、智谱AI 、瑞莱智慧等国内创业公司，多家互联网企业与投资机构代表，以及智源研究院理事长黄铁军、院长王仲远、副院长林咏华等。

28DE5

对话首先围绕AI安全领域现状、AI安全红线定义、国际合作方式、生物与数字智能、产业中的AI安全实践等主题展开探讨，并就常态化交流、经验分享、科研合作、人才培养机制等提出了设想。

在共识拟定环节，与会者讨论并一致认为，避免人工智能导致的灾难性全球后果需要我们采取果断的行动。协同合作的技术研究与审慎的国际监管机制的结合可以缓解人工智能带来的大部分风险，并实现其诸多潜在价值。我们必须继续坚持并加强国际学术界和政府在安全方面的合作。共识从AI风险红线、落实治理路线两个角度进行了阐述（部分内容如下图）。

2E7C6

共识全文链接：https://baai.org/l/IDAISBeijing

2019年5月，在智源研究院的倡导下，北京多家高校、科研机构与企业联合发布了《人工智能北京共识》，为规范和引领中国人工智能健康发展提供“北京方案”。2024年3月，此次智源研究院发起的“北京AI安全国际对话”成功举办，不仅加强了中国与国际AI安全领域的交流与合作，也推动了全球AI安全技术的发展和共识形成，为我国深度参与国际AI安全合作搭建了面向世界的平台。

相关新闻

马维英｜AI for Science

近日，清华大学惠妍讲席教授、智能产业研究院（AIR）首席科学家马维英发表演讲《AI for Science》。本次讲座围绕AI for Science整体介绍、科学场景中的生成式AI与大模型、AI for Science的应用、挑战与机遇三部分展开，从宏观的角度系统地定义了新科学，深入浅出地科普了生成式AI、大模型的最新进展，最后从实际应用出发介绍近年来清华大学智能产业研究院在多个AI for science领域中的科研成果，包括生物制药、化学化工、新材料...

2024/11/12

智慧引航｜对话图灵奖得主Martin Hellman教授

2024年10月24日，“AIR大师对话”第六期在清华大学智能产业研究院（AIR）图灵报告厅顺利举行。本次活动荣幸地邀请到图灵奖获得者、美国工程院院士、斯坦福大学电气工程名誉教授 Martin E. Hellman，就学术科研、职业发展、AI技术等话题进行了生动且深入浅出的分享。随后，AIR院长张亚勤院士主持炉边对话，与Hellman教授就今年诺奖花落AI、成功路径等话题展开精彩讨论，为观众带来无限启发。Hellman 教授首先分享了他从产业界（I...

2024/10/25

AIR快讯｜ AIR携手字节跳动成立可扩展大模型智能技术联合研究中心

近日，清华大学智能产业研究院（AIR）-字节跳动 “可扩展大模型智能技术联合研究中心（SIA Lab）” 在AIR举行成立仪式。SIA Lab 聚焦预训练大语言模型技术，致力于发展更为通用与可扩展的智能系统，提升智能技术在互联网以及更多场景、更复杂任务中表现能力。中国工程院院士、清华大学讲席教授、AIR 院长张亚勤，清华大学科研院院长刘奕群，清华大学惠妍讲席教授、AIR首席科学家马维英，清华大学万国数据教授、AIR执行院长刘...

2024/10/14

关于AIR

新闻中心

AIR团队

科学研究

产业交流

人才招聘

院级合作单位

新闻中心

学院新闻

学术简报

媒体报道

Hinton、Bengio、张亚勤等签署共识：北京AI安全国际对话收官，搭建中外AI安全合作平台

相关新闻

马维英｜AI for Science

智慧引航｜对话图灵奖得主Martin Hellman教授

AIR快讯｜ AIR携手字节跳动成立可扩展大模型智能技术联合研究中心

最新动态

官方微信