• 官方微信

    CA800二维码微平台 大视野

  • 工控头条

    CA800二维码工控头条App

当前位置:自动化网>自动化新闻>行业资讯>人工智能快速发展引发安全担忧

人工智能快速发展引发安全担忧

发布时间:2023-04-21 来源:央广网 类型:行业资讯 人浏览
关键字:

导  读:

今年以来,以ChatGPT为代表的生成式人工智能,凭借其惊艳的语言理解、生成、知识推理能力,在全世界掀起了一波人工智能领域的技术巨浪,短短两个月内全球活跃用户数达到1亿人。然而,在生成式人工智能技术“火爆全场”的同时,其引发的问题、争议与担忧也接踵而至。如何让监管在促进技术发展与确保社会安全之间实现平衡,将...,系统,人工智能,智能,智能,人工智能

今年以来,以ChatGPT为代表的生成式人工智能,凭借其惊艳的语言理解、生成、知识推理能力,在全世界掀起了一波人工智能领域的技术巨浪,短短两个月内全球活跃用户数达到1亿人。

然而,在生成式人工智能技术“火爆全场”的同时,其引发的问题、争议与担忧也接踵而至。如何让监管在促进技术发展与确保社会安全之间实现平衡,将是一个不小的考验。

据《华尔街日报》报道,一群欧洲议员4月17日致函表达了他们对人工智能技术的担忧,并呼吁制定更多的规则来对其加以监管。

在信中,议员们列出了他们希望看到欧洲议会采取的几项举措,包括在拟议的《人工智能法案》草案中提供一个框架,旨在“引导强大的人工智能朝着以人为本、安全可靠的方向发展”,此外还提及应召开关注人工智能风险的全球峰会。

欧盟内部市场委员蒂埃里·布雷顿称,计划中的《人工智能法案》将帮助人们消除对新近大热的ChatGPT聊天机器人以及其他人工智能技术风险的担忧。

欧盟理事会则表示,这项法案将与其他倡议齐头并进,包括旨在加快欧洲人工智能投资的《人工智能协调计划》。

除欧盟层面外,欧洲多国政府也已将人工智能技术监管提上议程。

意大利负责监管数据的机构3月31日宣布将暂时禁止在其境内使用ChatGPT,并限制相关公司处理意大利用户信息数据,同时对其隐私安全问题立案调查。

德国监管部门随后也警告称,可能会效仿意大利的做法,出于数据安全问题阻止ChatGPT在该国的使用。法国、西班牙、英国等国,也纷纷就ChatGPT所引发的数据隐私泄露等问题,展开调查或发出警告。

事实上,即使在ChatGPT的“老家”美国,政府以及商界、科技界的不少人士,近来也就人工智能技术监管问题密集发声,甚至直接“出手”。

18日,美国联邦贸易委员会领导人表示,ChatGPT等最新的人工智能工具可能导致诈骗行为激增,该机构将追究滥用人工智能技术来进行欺诈的公司。

美国商务部11日就人工智能问责措施公开征求意见,希望了解是否可以采取措施来保证人工智能系统是“合法、有效、合乎道德且安全的”。《华盛顿邮报》认为,这是美国商务部迄今应对人工智能技术的最重大举措。

在行政部门的具体监管动作外,美国政府高层似乎也在酝酿更宏大的监管方案。

4月初,美国总统拜登表示,人工智能是否危险还有待观察,但他强调,科技公司有责任确保其产品在公开之前是安全的。

美国参议院多数党领袖、民主党人查克·舒默13日表示,他已经起草了一个针对ChatGPT等人工智能工具的监管框架,防止其对社会和国家安全可能造成的大范围影响。

在政府之外,包括特斯拉公司CEO埃隆·马斯克和苹果联合创始人沃兹尼亚克在内的一批商界与科技巨头,也是美国国内要求加强人工智能技术监管的一支重要力量。

3月29日,马斯克等千名业界和学界人士联署公开信,呼吁所有人工智能实验室立即暂停训练比GPT-4更强大的AI系统,暂停至少6个月,以便制定和实施安全协议。

4月16日,在一档哥伦比亚广播公司的采访节目上,谷歌母公司Alphabet的首席执行官桑达尔·皮查伊表示,人工智能技术可能带来巨大的安全问题,因此必须有监管存在,以确保人工智能对世界的影响。

人工智能技术让人“不省心”的问题,主要是这样几个方面:数据的来源合法性,用户数据尤其是隐私的安全,虚假信息和网络犯罪,商业秘密泄露风险以及国家安全隐患。

在带来重重隐忧的同时,人工智能技术的监管难度又比较大。一个技术上的难点在于算法的“可解释性问题”,深度神经网络一直存在“算法黑箱”,或许连技术开发者也很难说清算法是如何运行的,因此也难以对其加以相应的监管;另一个技术难点是,生成式人工智能的供应链过长,涉及大模型服务商、开源厂商、应用商、云厂商、终端用户等一连串角色,这也给有针对性的问责带来很大的挑战。

不过,从根本上说,人工智能技术监管最难的地方,还是如何做到既能实现有效监管,又不妨碍这一技术及相关产业的发展。

在此背景下,联合国教科文组织上月末号召各国执行其《人工智能伦理问题建议书》。

联合国教科文组织总干事阿祖莱表示,世界需要加强人工智能伦理规范,这是“我们这个时代面对的挑战”。教科文组织《人工智能伦理问题建议书》设定了适当的规范性框架,并于2021年11月获得全部会员国通过。现在到了在国家层面实施有关战略和法规的时候。

本文地址:http://www.ca800.com/news/d_1o4qa5d200f41.html

拷贝地址

上一篇:促进人工智能与实体经济深度融合

下一篇:周鸿祎发内部信要求360全面拥抱人工智能

免责声明:本文仅代表作者个人观点,与中国自动化网无关。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容!来源网络如有误有侵权则删。

猜您喜欢

更多精彩信息看点 请扫描以下二维码