当前位置: 首页 >> 快讯
马斯克等千人签署公开信,人工智能开发危及“文明控制权”?
来源:中国新闻网     时间:2023-03-30 07:27:17

中新网3月30日电 美剧《西部世界》和好莱坞电影《终结者》里曾描绘,人工智能(AI)的“觉醒”可能危及人类。最近,科幻片中的担忧照进现实,有不少人工智能业界“大佬”突然呼吁暂停开发更强大的AI系统,提出具有人类水平智能的AI系统可能“对社会和人类构成潜在风险”。

他们的担忧从何而来?人工智能开发会否危及人类的“文明控制权”?AI的发展是否已来到需要按下“暂停键”的转折点?

一封公开信,四问AI风险


(资料图片仅供参考)

近期,美国亿万富翁埃隆•马斯克和人工智能领域顶尖专家、图灵奖得主约书亚•本吉奥(Yoshua Bengio)等人联名签署了一封公开信,呼吁暂停开发比GPT-4更强大的AI系统至少6个月,称其“对社会和人类构成潜在风险”。

呼吁暂停巨型AI训练的公开信。图片来源:“未来生命研究所”网站

这封发布在非营利性组织“未来生命研究所”(Future of Life Institute)网站上的公开信主张,在开发强大的AI系统之前,应先确认其带来影响是积极的、风险是可控的。

信中详述了具有人类水平智能的AI系统可能对社会和人类带来极大的风险,称“这一点已经得到大量研究和顶级AI实验室的认同”,并连续抛出四个疑问:

- 我们是否应该让机器用宣传和谎言淹没我们的信息渠道?

- 我们是否应该让所有的工作自动化,包括那些令人满意的工作?

- 我们是否应该发展最终可能在数量上超过我们、在智能上超越我们、能够淘汰并取代我们的非人类思维?

- 我们应该冒着失去对我们文明控制的风险吗?

公开信指出,如果不能迅速实施此类暂停,政府应当介入并采取措施。此外,“AI实验室和独立专家应该利用这次暂停,共同开发和实施一套用于高级AI设计和开发的共享安全协议,并由独立的外部专家进行严格审计和监督”。

资料图:人形机器人在电脑上打字的示意图。

信中还呼吁开发人员和政策制定者合作,大幅加快强大的AI治理系统的开发。这其中至少应当涉及监管机构、审计和认证系统、监督和追踪高性能AI系统、人工智能造成伤害后的责任问题、为AI技术安全研究提供公共资金等方面。

公开信在最后提到,如今,我们的社会已经暂停其他可能造成灾难性影响的技术,对于人工智能也应该如此,“让我们享受一个漫长的‘AI之夏’,而不是毫无准备地进入秋天”。

技术、伦理、利益,呼吁放慢脚步为哪般?

从这些内容中不难看出,比起技术,公开信的支持者更在意的,是人工智能可能出现的“野蛮生长”,以及它的发展可能带来的社会和伦理难题。

公开信中提到,此番暂停并不意味着从总体上暂停人工智能的开发,而是从危险竞赛中“后退一步”。人工智能的研究和开发应该重新聚焦于使当今强大的、最先进的系统变得更加准确、安全、可解释、透明、稳健、一致、可信且可靠。

纽约大学教授加里•马库斯所人为,“这封信并不完美,但精神是正确的”,他认为,人们需要放慢脚步,直到可以更好地理解这一切带来的后果。

目前,该公开信已获上千人签署,其中不乏开源人工智能公司Stability AI首席执行官莫斯塔克(Emad Mostaque)、谷歌母公司Alphabet旗下人工智能企业DeepMind研究人员、计算机科学家斯图亚特•罗素(Stuart Russell)等专家学者和科技公司高管。

资料图:马斯克。

发布公开信的“未来生命研究所”则主要由马斯克基金会、硅谷社区基金会等资助。特斯拉首席执行官马斯克正在将人工智能应用于自动驾驶系统,他也一直坦率表达自己对人工智能的担忧。

路透社还称,欧洲刑警组织(Europol)日前也表达了对ChatGPT等先进人工智能在伦理和法律方面的担忧,警告此类系统可能会被滥用于网络钓鱼、虚假信息和网络犯罪。此外,英国政府也公布了关于建立AI监管框架的提议。

在网络上,这封信也引起热烈讨论,有网友表示认同,人们需要知道发生了什么,“仅仅因为我们知道可以建造它,并不意味着应该建造”。

但也有人怀疑马斯克的动机,“马斯克之所以会签署它,因是为他想用自己的人工智能来赚钱。”

还有人分析,“这很可怕,但我认为有些项目不需要停止。技术正在发展迅速,负责任的创新也是必要的。”

关于人类和AI关系的思考,从技术诞生之初就没有停过。著名物理学家霍金也曾说过,“成功创造了人工智能,很可能是人类文明史上最伟大的事件。但如果我们不能学会如何避免风险,那么我们会把自己置于绝境”。

如今,从通过资格考试,到进行艺术“创作”,AI能做的事越来越多,朝着“智能”的方向越走越远。但同时,利用AI技术进行网络诈骗勒索、传播非法信息等犯罪行为也层出不穷。

不同于物理世界技术创新成果转化的漫长周期,AI技术突破往往会通过互联网一夜之间散播全球。在人类未能就AI伦理、监管等找到妥善解决之道前,这些讨论和担忧并不多余。

标签:
热门推荐
热门推荐

马斯克等千人签署公开信,人工智能开发危及“文明控制权”?

中新网3月30日电美剧《西部世界》和好莱坞电影《终结者》里曾描绘,人工智能(AI)的“觉醒”可能危及人类...

鲍威尔私人会议透露 预计今年还会加息一次

据美国共和党众议员凯文·赫恩称,美联储主席鲍威尔在与美国议员的一次私人会议上被问及美联储今年还会...

乔治娜瘦身成功,身材重回巅峰,C罗终于许诺娶她进门

乔治娜瘦身成功,身材重回巅峰,与C罗高调秀恩爱,婚期将至作为运动员来讲,C罗已经过了职业生涯的黄金...

塞尔达1万卢比大精灵能干嘛_世界观点

可以将玩家身上的装备强化到最高等级。大精灵的介绍《塞尔达传说》游戏中,10000卢比给大精灵后可以将自...

苹果x怎么刷机多少钱(苹果x怎么刷机) 世界今亮点

1、苹果手机怎么刷机所需工具:  待刷iPhone一部  最新版本的iTunes  最新版本的iOS固件包苹果手...

速读:天风证券:给予北京利尔买入评级,目标价位4.35元

天风证券股份有限公司鲍荣富武慧东近期对北京利尔进行研究并发布了研究报告《下游需求景气较低拖累关注...

世界今日报丨江门蓬江一宗宅地将于4月27日出让 起始价1.09亿元

观点网讯:3月29日,观点新媒体获悉,继上周江门市台山挂地后,蓬江于近日也挂出一宗宅地。本地次挂牌的...

新亚电子(605277)龙虎榜数据(03-29)

沪深交易所2023年03月29日公布的交易公开信息显示,新亚电子因成为当日涨幅偏离值达7%的证券上榜。新亚...

今日播报!民心工程|上海:农村人居环境优化!村庄改造完成3.6万户

民心工程|上海:农村人居环境优化!村庄改造完成3 6万户

奥浦迈:2022年净利同比增74.47% 拟10转4派6元|天天观速讯

【奥浦迈:2022年净利同比增74 47%拟10转4派6元】奥浦迈(688293)3月29日晚间披露年报,公司2022年实现...

更多》 探索

全球消息!奥林巴斯是哪个国家品牌?什么是单反相机?

最近这段时间总有小伙伴问小编奥林巴斯是哪个国家品牌_奥林巴斯是哪个国家的品牌是什么,小编为此在网上...

观天下!军舰的排水量是什么意思?排水量怎么计算?

提起军舰的排水量是什么意思_排水量是什么意思大家在熟悉不过了,被越来越多的人所熟知,那你知道军舰的...

环球报道:联想v370笔记本综合测评?联想v370笔记本最新报价是多少?

提起联想z370cpu_lenovov370大家在熟悉不过了,被越来越多的人所熟知,那你知道联想z370cpu_lenovov370...

天天新消息丨微信新功能官方提醒怎么设置?如何使用微信的提醒功能?

(资料图片仅供参考)最近这段时间总有小伙伴问小编微信新功能官方提醒怎么设置_微信新功能官方提醒怎么玩...

当前报道:华为荣耀X1有哪些配置参数?华为荣耀x1标配是什么?

(资料图片)在生活中,很多人都不知道华为荣耀x10max_华为荣耀x1是什么意思,其实他的意思是非常简单的,...

全球今日讯!怎么选择适合自己的笔记本?实惠笔记本有哪些推荐?

最近小编看到大家都在讨论电脑啥牌子的好价格又实惠笔记本_实惠笔记本相关的事情,对此呢小编也是非常的...

焦点简讯:胸部怎么按摩健康(胸部怎么变大)

您好,现在渔夫来为大家解答以上的问题。胸部怎么按摩健康,胸部怎么变大相信很多小伙伴还不知道,现在让...

天天快看点丨挑战不可能第四季免费观看(挑战不可能第四季最新)

(相关资料图)您好,现在渔夫来为大家解答以上的问题。挑战不可能第四季免费观看,挑战不可能第四季最新相...

全球观焦点:爱亲者不敢恶于人敬亲者不敢慢于人(爱亲者不敢恶于人敬亲者不敢慢于人)

【资料图】您好,现在渔夫来为大家解答以上的问题。爱亲者不敢恶于人敬亲者不敢慢于人,爱亲者不敢恶于人...

消息!美年体检报告查询(美年体检报告查询)

(相关资料图)您好,现在渔夫来为大家解答以上的问题。美年体检报告查询,美年体检报告查询相信很多小伙伴...