新闻中心

当前位置: 首页 > 新闻中心 > 学院新闻 > 正文

AIR观点|聂再清:安全可信是人工智能治理核心诉求

来源:       发布时间:2022-12-13

2022年12月10日,清华大学国强教授、智能产业研究院(AIR)首席研究员聂再清出席了人工智能合作与治理国际论坛(主论坛II-人工智能治理技术论坛),并发表了《可信AI技术与应用》的主旨演讲。一同出席该主论坛的嘉宾还有中国工程院院士高文教授、清华大学计算机系博世AI冠名教授朱军、哥伦比亚大学常务副校长周以真教授,本次论坛由清华大学人工智能研究院常务副院长孙茂松教授主持。




undefined


数字化3.0时代,人工智能深入影响各行各业,人工智能治理工作的重要性不言而喻。聂再清教授表示: 安全可信是人工智能治理核心诉求。 他指出, 全可信的人工智能技术和产品需具备以下三个特点:首先AI技术和产品本身必须安全可控,包括系统内部的可靠性和抵御外界攻击的安全性;其次,用来训练AI的数据将成为机构和个人的核心资产之一,必须保护数据的私有资产属性和用户隐私;同时,AI技术和产品的行为和建议必须是可解释的。本次讲座, 聂教授主要从自动驾驶和智慧医疗两个方面具体探讨了可信AI技术的应用。


undefined


在自动驾驶方面,许多偶发极端场景(corner case)都可能导致感知信号不完整而出现AI决策失误,给自动驾驶车辆、乘客以及周边环境带来安全隐患。他指出, 通过车路协同来增加自动驾驶所需信息的冗余度可以大幅提升自动驾驶系统的安全性。 在北京市高级别自动驾驶示范区的大力支持下,AIR携手百度Apollo,北京车网科技发展有限公司、智源人工智能研究院一起发布了 全球首个车路协同自动驾驶数据集DAIR-V2X ,助力学术界和工业界开展多传感器协同感知提升安全性方面的研究。此外, 聂再清教授团队还首次提出了车路协同3D目标检测任务,并基于V2X数据集证明了: 车路协同相对于单车端或单路端可以大幅提升3D目标检测的精度,同时基于时间补偿的后融合方案能够明显提升VIC3D目测检测的精度。
在智慧医疗方面,可信AI技术的核心挑战在于 数据孤岛和患者数据隐私保护。 针对如何通 过联邦学习做到数据可用不可见,做好数据资产和隐私保护,实现多中心联邦协作,解决数据单边样本不足和标签缺失的问题,聂教授团队 研发了多中心医疗联邦协作科研平台,大幅提高了模型的泛化性和鲁棒性。他提到, 公平和可解释的激励机制是多中心联邦协作的基础 ,数据共享产业化落地阶段参与方主观意愿至关重要,激励是促进参与方积极参与的有效方式。此外,在面向健康管理的可解释个性化推荐方面,他 希望可以通过符号化的知识图谱和深度学习相结合的可解释推荐来提升患者的依从性,从而进一步提升营养推荐的可解释性。

最后,聂教授表示未来会与合作伙伴一起不断深入研究,共同致力于提升人工智能技术和产品的安全性和可信度。

清华智能产业研究院
,赞1

关于论坛

2022人工智能合作与治理国际论坛于12月9日至10日举行,本届论坛下设三大主论坛,作为引领全球人工智能对话合作的国际平台,邀请了来自近二十个国家的八十余位专家学者、智库代表、政府官员以及国内外人工智能与互联网平台企业。主论坛II围绕“人工智能治理技术”这一主题展开深入交流。本次论坛由清华大学主办、清华大学人工智能国际治理研究院(I-AIIG)承办,中国新闻网作为战略合作伙伴,联合国开发计划署(UNDP)、联合国教科文组织(UNESCO)等国际组织、国内外学术机构支持。

撰文 / 王影飘

排版 / 王影飘

审校 / 黄   妍



关于AIR



清华大学智能产业研究院(Institute for AI Industry Research, Tsinghua University,英文简称AIR,THU)是面向第四次工业革命的国际化、智能化、产业化的研究机构。AIR的使命是利用人工智能技术赋能产业升级、推动社会进步。通过大学与企业创新双引擎,突破人工智能核心技术,培养智能产业领军人才,推动智能产业跨越式发展。

AIR于2020年由多媒体及人工智能领域的世界级科学家、企业家张亚勤院士创建。

智慧交通(AI+Transportation)、智慧物联(AI+IoT)、智慧医疗(AI+Life Science)是清华大学智能产业研究院的三个重点研发方向


上一条:Vol.4|AIR Newsletter 下一条:张亚勤|物理世界和元空间(RSR)

关闭

相关新闻

最新动态

邮箱:Airoffice@air.tsinghua.edu.cn
电话:(010)82151160  

地址:北京市海淀区清华科技园启迪科技大厦C座12层

官方微信

京ICP备15006448号  |   版权所有©清华大学智能产业研究院