科技 英国将人工智能安全研究所扩展到旧金山,以应对监管缺陷的审查

发布时间:2024-05-21
发布人:virskor
查看:0次

伦敦——英国政府正在将其“前沿”人工智能模型测试设施扩大到美国,以提升其作为应对技术风险的全球顶级参与者的形象,并在各国政府加强与美国的合作。全球人工智能领导地位之争。

美国政府周一宣布,将于今年夏天在旧金山举办人工智能安全峰会,该峰会是一个由国家支持的机构,专注于测试先进的人工智能系统以确保其安全。

img-1716260096598-8774


美国人工智能安全研究所的目标是招募一支由研究总监领导的技术人员团队。在伦敦,该研究所目前拥有 30 名团队,由英国著名科技企业家伊恩·霍加斯 (Ian Hogarth) 担任主席,他创立了音乐会发现网站 Songkick。

英国技术大臣米歇尔·多尼兰在一份声明中表示,人工智能安全峰会在美国的推出“代表了英国在人工智能领域的领导地位。”

“这是英国从全球角度研究人工智能风险和潜力的关键时刻,加强我们与美国的伙伴关系,并为其他国家利用我们的专业知识铺平道路,因为我们继续在人工智能领域领先世界。人工智能安全。”

此次扩张“将使英国能够利用湾区丰富的科技人才,与总部位于伦敦和旧金山的世界上最大的人工智能实验室合作,并巩固与美国的关系,以促进公众的人工智能安全利息”,政府表示。

旧金山是微软OpenAI 的故乡- 病毒式人工智能聊天机器人 ChatGPT 背后支持的公司。



人工智能安全研究所于 2023 年 11 月在人工智能安全峰会期间成立,这是一项在英国布莱奇利公园(二战密码破译者的故乡)举行的全球活动,旨在促进人工智能安全方面的跨境合作。

人工智能安全研究所向美国扩张是在韩国人工智能首尔峰会前夕进行的,该峰会是去年在布莱切利公园举行的英国峰会上首次提出的。首尔峰会将于周二和周三举行。

政府表示,自去年 11 月人工智能安全研究所成立以来,它在评估一些行业领先企业的前沿人工智能模型方面取得了进展。

该公司周一表示,一些人工智能模型完成了网络安全挑战,但难以完成更高级的挑战,而一些模型则展示了博士级别的化学和生物学知识。

与此同时,该研究所测试的所有模型仍然非常容易受到“越狱”的影响,用户会欺骗它们产生内容指南不允许的响应,而有些模型即使不尝试规避保护措施也会产生有害的输出。

政府表示,如果没有人类监督,测试的模型也无法完成更复杂、更耗时的任务。

它没有透露所测试的人工智能模型的名称。政府此前曾让 OpenAI、DeepMind 和 Anthropic 同意向政府开放他们梦寐以求的人工智能模型,以帮助了解与其系统相关的风险的研究。

这一发展正值英国因未针对人工智能引入正式法规而面临批评,而欧盟等其他司法管辖区正在竞相制定针对人工智能的法律。

欧盟具有里程碑意义的《人工智能法案》是第一部针对人工智能的重要立法,一旦获得欧盟所有成员国批准并生效,预计将成为全球人工智能监管的蓝图。

由于部分文章来自用户发布,或者网络收集,我们无法考证原作者并及时联系。如您认为该文章或内容有侵权,请在发布后与我们取得联系删除。您可以点击网站下方的投诉举报,或者文章内页的举报图标按钮进行举报。我们会及时删除信息。部分用户创作内容可能标记版权信息,如您转载请提前联系并获得书面许可(盖章)。

最近评论

当前评论为精选或存在缓存,点击阅读更多查看最新

empty image

暂无更多数据

0