萧箫 发自 凹非寺 量子位 | 公众号 QbitAI
(相关资料图)
图灵奖得主Bengio和Hinton,同时警告 AI可能灭绝人类 !
就在昨夜,一封签署名单多达350人的公开信迅速传播开去,信中核心只有一句话:
“降低AI灭绝人类的风险”,应该像流行病和核战争等其它社会规模的风险一样,成为全球的优先事项。
签署这封公开信的,既包括三大AI巨头的CEO,即ChatGPT老板、 OpenAI 的Sam Altman, DeepMind 的Demis Hassabis和 Anthropic 的Dario Amodei;
也包括不少国内外高校的教授,除了Yoshua Bengio和Geoffrey Hinton以外,清华AIR院长 张亚勤 和斯坦福教授、图灵奖得主 Martin Hellman 等人也名列其中。
这段时间来,关于AI风险的各种大小讨论也是接连不断,OpenAI CEO Sam Altman前段时间还倡议称,人们应当像对待核设施一样监管AI。
所以,究竟是谁发起的这封公开信倡议,又是否有AI大牛反对这件事?
发布这封公开信的机构名叫Center for AI Safety(CAIS),是一家关于AI安全的非营利组织。
在这封公开信的开头,CAIS反复强调:
包括AI专家、记者、政策制定者和公众在内,越来越多的人开始讨论AI带来的一系列重要和紧迫的风险。
即便如此,要想表达对先进AI的严重风险,可能还是有一定难度。这封公开信旨在克服这一障碍,并展开对相关议题的讨论,让更多专家和公众人物认识到这一点。
事实上,已经有不少签署了这封信的AI大牛,最近发了关于AI风险的博客文章、或是在访谈中谈到了自己的观点。
例如前段时间,Yoshua Bengio就写了一封长信,警告称“人类大脑是生物机器,一定会有超级智能AI超越它”。
除此之外,包括Stability AI的创始人Emad Mostaque、以及剑桥大学助理教授David Krueger等人,也都在最近的访谈中提到了关于AI带来的潜在危害。
例如,Emad Mostaque认为,10年后包括Stability AI、OpenAI和DeepMind在内,这些AI公司的规模甚至会超过谷歌和Facebook。
也正是因此,AI风险是一个必须要考虑的事情:
我们可能正处于全面变革的风口浪尖,这些变革对于任何一家公司或是国家来说都太过庞大,以至于难以管理。
当然,这波闹得沸沸扬扬的“请求AI监管”浪潮下,也有不少反对的声音。
目前为止,包括另一位图灵奖得主Yann LeCun、前特斯拉AI总监Andrej Karpathy还有吴恩达等 AI大牛 在内,都还没签署这封联名信。
吴恩达 发推回应称:
当我想到大部分人类生存面临的风险时:流行病、气候变化导致大规模人口减少、(撞击地球的)小行星……
AI将是我们寻找解决方案的关键部分。所以,如果你想让人类在接下来的1000年里生存和繁荣,那就让AI发展得更快,而不是更慢。
LeCun 转发表示同意:
“超人级”AI之所以不在风险列表榜首,很大程度上是因为它还不存在。至少我们在设计出达到狗智商(更不用说人类了)的AI之前,讨论它的安全性还为时过早。
对此,纽约大学教授 Gary Marcus 补充道:
不要把框架缩小到只关注人类灭绝的风险。AI其实还存在许多其他的严重风险,包括可能帮助开发生物武器等。
不过,Gary Marcus同样没有签署这份350人公开信。
显然包括不少AI大牛在内,反对者主要有两种意见。
一种意见认为,AI技术确实存在风险,但这封公开信涉及到的内容太泛泛。
如果有更精确的声明如“减轻AI技术的潜在风险应该是科技行业、政府和该领域学术研究人员的首要任务”,那么这封信还是可以签署的。
这封公开信中的内容根本就是夸大其词了,而且AI在气候变化等领域甚至可以起到降低风险的作用。
另一类意见则认为,这封信只不过是当前掌握最领先AI技术的人,试图控制AI接下来的走向而已。
以OpenAI的CEO Sam Altman为例:
Sam Altman要是真的担心,大可以现在直接关掉ChatGPT服务器。
所以,你认为按照现在的进度来看,AI有可能灭绝人类吗?
参考链接: [1]https://www.safe.ai/statement-on-ai-risk [2]https://www.nytimes.com/2023/05/30/technology/ai-threat-warning.html?smtyp=cur&smid=tw-nytimes [3]https://twitter.com/AndrewYNg/status/1663584330751561735 [4]https://www.reddit.com/r/MachineLearning/comments/13vls63/n_hinton_bengio_and_other_ai_experts_sign/
— 完 —
量子位 QbitAI · 头条号签约
关注我们,第一时间获知前沿科技动态
标签:
精彩推荐
萧箫发自凹非寺量子位|公众号QbitAI图灵奖得主Bengio和Hinton,同时警告AI可能灭绝人类!就在昨夜,一封签
5月29日,女子输液被陌生男子拔针扎进水桶”的视频广泛传播,引发热议,话题阅读量高达1 2亿,据称事发...
中国少年先锋队是我们光荣的名称,它在战火纷飞的革命战争年代孕育,在新中国母亲温暖的怀抱中茁壮成长。在
想必现在有很多小伙伴对于ppm是什么意思方面的知识都比较想要了解,那么今天小好小编就为大家收集了一些关
今日走势:天瑞仪器今日触及涨停板,该股近一年涨停4次。 异动原因揭秘:1、5月16日,天瑞仪器披露公告
恒指低开0 24%,恒生科技指数跌0 25%。科网股部分反弹,京东涨1 9%,腾讯控股涨0 6%。B站跌近5%,龙湖集团
美联储5月31日发布的全国经济形势调查报告显示,近几个星期,美国经济活动似乎陷入停滞,经济前景较以往更
1、您好,感谢您对4399的信赖。2、通天赦令获取方法:收集通天赦令碎片合成获得。3、合成公式:通天赦令碎
广州职工医保报销比例2023年是多少?下面跟社保网小编一起来看看具体详情吧。【1】报销比例1、在职职工基层
生意五字经,关于生意五字经介绍这个很多人还不知道,我们一起来看看!1、《生意五字经》一书的出版社是四川
新华社北京6月1日电(记者戴小河)国家邮政局监测数据显示,截至5月31日,今年我国快递业务量已达500亿件,
5月31日,IPBU国际职业拳击系列赛之揭幕赛在澳门永利皇宫开赛,来自中国香港、俄罗斯、印度、泰国等地的选
据监测数据显示,上月我省监测样本企业的柴油、汽油批发市场价格分别为7967 57元 吨、9183 31元 吨,环比分
美机最近时离我海岸线不到50公里,我歼-16果断拦截美侦察机!,飞机,飞行员,中国战机,歼-16,美军侦察机
预订“六一”当天本地周边旅游订单量增142%儿童节到来之际,携程日前发布了亲子旅游趋势洞察。数据显示...
1、在一起的时候真的觉得特别好看特别。本文到此分享完毕,希望对大家有所帮助。
网飞全新韩剧《绝世网红》发布官方中字预告,该剧将在6月30日下午15:00正式开播。《绝世网红》由《芝加哥打
具体而言,碧桂园控股集团下设地产集团、科技建筑集团两大产业集团,及新业务事业部、创新投资事业部两大业
1、要求转化率高的推广渠道,建议如下:各搜索引擎的竞价广告(通过长尾词的精准投放,转化率很高)2、SEO
北京商报讯(记者 陈婷婷 胡永新)5月31日,“浦东发布”官微信息显示,在5月31日的市政府新闻发布会...
资讯News
08-07
07-08
11-03
11-03
11-03
11-03
11-03
11-03
11-03
11-03
11-03
11-03
聚焦Policy
当好农民工的“护薪人” 近日,罗某等7名农民工在收到被拖欠的工资后,纷纷打电话向江西省南昌市...
“通讯录里所有人都知道我欠钱了” □ 本报记者 韩丹东 □ 本报见习记者 张守坤 ...
大连宝马车撞人案肇事司机被判死刑 本报讯 记者韩宇 10月29日,辽宁省大连市中级人民法院一审...
医院财务迷上网络赌博输光5000万元公款 □ 本报记者 马维博 □ 本报通讯员 汪宇堂 曹...
辊环车削 雕琢毫厘(工匠绝活) 【绝活看点】 23年来,雷虎始终扎根一线,改进钢材轧制工艺...
交警严查超标电动自行车挪用“白牌” 截至昨晚6时,处罚电动自行车违法行为共计6585笔;下一步将...
明起寒潮来袭 北方气温普降10℃以上 中央气象台预计,本周日北京平原地区最低气温降至-4℃左右...
多种蔬菜价格降幅达五成 包括菠菜、蒿子秆等 预计本月中旬蔬菜恢复供需平衡 本报讯(记者...
北京周日最低气温或达-4℃ 本报讯(记者 赵婷婷)北京青年报记者昨天从中央气象台获悉,新一股...
昌平一家四口确诊新冠肺炎 天通北苑第二社区升级为中风险地区 朝阳两涉疫校区及16所学校停课 ...