全球人工智能安全指数发布 中国人工智能安全就绪度处于国际第一梯队
时间:2025-02-13 14:00:43来源:中国网

人工智能技术的进展和在全球各行各业的普及,使得其赋能社会发展的同时也带来潜在复杂的安全风险。从隐私泄露、恶意利用、意外后果到生存风险,AI的双重用途及其全球影响要求各国需要充分重视人工智能安全并采取行动。近日,旨在衡量各国在人工智能安全方面的国家当前整体状况和应对AI安全挑战就绪度的全球人工智能安全指数(Global Index for AI Safety)由中国科学院自动化研究所人工智能伦理与治理中心、人工智能安全与超级对齐北京市重点实验室、远期人工智能研究中心等数家单位联合研究并正式发布。

指数围绕人工智能安全的治理环境、国家机构、治理工具、研究水平、国际参与情况以及生存风险应对等6个评估方面,通过12个维度来评估40个国在AI安全方面的就绪度。中国在人工智能安全国家层面的整体就绪度方面处于国际第一梯队。

总体发现:

国家层面人工智能安全就绪度总体评估中国处于国际第一梯队。发达国家在AI安全就绪度上总体表现更好,具有更强的研发能力,与AI安全相关的治理框架更完善,并且更积极地参与国际合作。相比之下,多数发展中国家和新兴经济体面临更多挑战,迫切需要加强治理体系、政策支持和全球协作。同时,各国对与AI相关的生存性风险的预先防范和布局仍然不足,对长期和系统性风险的关注有限,这可能导致在面对重大挑战时准备不足。

主要发现一:近年来,全球AI安全环境日益严峻。

自2022年以来,随着生成式AI技术的突破及其在各个领域的深入应用,AI风险事件的总数激增。根据经济合作与发展组织(OECD)的AI事件监测器(AIM)统计,2024年的风险事件总数比2022年增加了约21.8倍,显示出快速增长的态势。在2019年至2024年间发生的AI风险事件中,约74%与AI安全问题直接相关。2024年与安全直接相关的AI事件数量比2023年增长了约83.7%。

主要发现二:国家人工智能安全研究机构以不同形式呈现快速包容性发展。

主要发现三:部分国家人工智能安全的法律、政策与技术工具逐步出台。

在所评估的40个国家中,17个国家拥有与AI安全相关的治理工具。其中,9个国家,包括中国、英国、美国、德国、日本、韩国、沙特阿拉伯、新西兰、澳大利亚,既拥有国家层面的AI相关安全法律,也建立了技术/政策框架。这凸显了全球通过这些框架对AI安全进行监管的趋势。然而,大多数与AI相关的安全法律主要关注网络安全和信息安全,专门针对AI安全的法律仍然相对较少。大多数技术和政策框架是在2024年发布的,反映了各国在过去一年为解决AI安全问题所做的一致努力。

主要发现四:人工智能安全研究激增,对齐和隐私安全成为最热议题。

主要发现五:人工智能安全的国际协作正在形成,但仍需更广泛的参与。

2023年以来,AI安全已成为全球人工智能治理框架中的核心议题。本次调研的10项/系列AI安全国际合作项目涵盖了政府间合作、产业联盟、学术交流及民间组织协作等多方参与。这些努力反映了全球对AI安全的共识,但也揭示了治理机制中需要更广泛的包容性。

主要发现六:几乎所有国家都缺乏对AI生存性风险的预先防范和布局。

多年来,学术界一直积极参与讨论,并对先进人工智能可能带来的潜在生存性风险表示了极大关注。然而,作为开发、推广和治理尖端AI系统的主要参与者,政府和产业界仍然普遍缺乏对AI生存性风险的预先防范应对。

报告的主要作者之一,中国科学院自动化研究所人工智能伦理与治理中心主任、人工智能安全与超级对齐北京市重点实验室主任曾毅研究员说:“全球人工智能安全指数的评估目的并非要将各国分为AI安全领域的先进或落后者,而是对各国在人工智能安全方面的就绪度做出客观反应,并以此敦促人工智能安全各国的布局与发展。在面临AI的全球安全挑战时没有哪个国家可以独善其身。人工智能发展能力各国虽然存在显著差异,但是人工智能安全就绪度各国应保持相对的高水平。全球人工智能安全指数作为一个评估工具,帮助各国认识到人工智能安全方面自身的优势和劣势。通过分享经验和相互学习,各国之间可以加强合作,协调资源,引导AI走向一个更安全、更可持续的未来。这一共同努力不仅是为了现在,也是为了未来,确保AI成为推动人类向前发展的安全而强大的力量”。

全球AI安全指数是全球人工智能治理评估指数(AI Governance International Evaluation Index)系列研究的一部分。有关全球AI安全指数的更多发现,可访问全球人工智能治理在线观察平台获取完整版报告。

全球AI安全指数: https://agile-index.ai/global-index-for-ai-safety

标签: 人工智能

  • 上一篇文章: 首都博物馆发布2025年展览计划
  • 下一篇文章: 最后一页
  • 最新
  • 全球人工智能安全指数发布 中国人工智能安全就绪度处于国际第一梯队

    人工智能技术的进展和在全球各行各业的普及,使得其赋能社会发展的

  • 首都博物馆发布2025年展览计划

    首都博物馆1月20日发布2025年首都博物馆和北京大运河博物馆(首都博

  • “大美内乡·贡菊飘香”第八届郦邑贡菊摄影、短视频大赛颁奖活动成功举办

    1月16日,由南阳市摄影家协会、河南郦邑贡菊股份有限公司、内乡县摄影

  • IDCC2024举办 专家建言推动数字经济发展

    中新社北京12月31日电 (记者 阮煜琳)12月31日是全国碳排放权交易

  • 我国成功发射卫星互联网低轨卫星

    12月16日18时00分,我国在文昌航天发射场使用长征五号乙运载火箭 远

  • 心会神凝的意思怎么解释?潜心贯注的意思是什么?

    心会神凝的意思怎么解释?‌心会神凝‌是一个汉语成语,拼音

  • 人形机器人“CASBOT 01 ”亮相

    11月12日,科研人员在位于北京的实验室调试人形机器人CASBOT 01。1

  • 前10月我国对亚太经合组织其他经济体进出口21.27万亿元

    前10月我国对亚太经合组织其他经济体进出口21 27万亿元创历史同期新

  • 全球最大功率漂浮式风电机组在江苏下线

    记者12日从中国中车了解到,我国自主研发的全球最大功率漂浮式风电

  • 开创业板条件是什么?创业板上市公司具有什么特点? 全球时讯

    开创业板条件是什么?1、申请权限开通前20个交易日证券账户及资金账

  • 驻马店市驿城区诸市镇举办“诗歌咏中秋 文化共传承”朗诵比赛|世界短讯

    为大力弘扬中华优秀传统文化,积极培育和践行社会主义核心价值观,丰富

  • 非洲商人来“淘金”!义乌国际商贸城成为中非贸易重要窗口

    浙江义乌国际商贸城五大商区汇集了210多万种商品,丰富的商品品类和

  • 基金联接a是什么意思?基金联接a和c区别有哪些?

    基金联接a是什么意思?基金联接a是指前端收费的收费模式,即购买前一

  • “With东城”亮相HICOOL2024全球创业者峰会释放“东城引力”-焦点播报

    中新网北京8月24日电 (记者 应妮)8月23日至25日,HICOOL2024全球

  • 重点聚焦!光山县:共绘天蓝水绿美好画卷

    近日,据光山县生态环境局城市环境空气质量自动监控系统2023年12月31日

  • 天天热门:信阳市司法鉴定人协会、公证协会、大别山公证处走进圣德康养中心开展重阳节慰问活动

    10月23日下午,信阳市司法鉴定人协会、信阳市公证协会、信阳市大别山公

  • 旅游
    • 上衣和裤子简笔画(裤子简笔画)

    • 遵医附院:在薪火相传中守护百姓生命健康

    • 慧博云通(301316.SZ):公司传媒方向业务不涉及人工智能领域

    • 国泰君安818理财节,为海量投资者提供数字化普惠金融服务