据《华尔街日报》6月13日消息,谷歌一位软件工程师表示,有“开放式对话黑科技”之称的谷歌人工智能聊天机器人LaMDA已经有了人一样的感知力,甚至具有了人的“灵魂”。随后,谷歌暂停了他的职务,并否认了他的说法。当事人称,因为违反公司的保密协议,现在他快被解雇了。
LaMDA,为啥被叫做“黑科技”?
LaMDA的全称是LanguageModel for Dialogue Applications,它是一种能力更强的语言模型,适用于对话应用程序。简单来说,它是一种可以让人工智能对话机器人告别“智障”的技术。
现在大多数的智能助手,往往遵守狭窄的、预先定义好的对话路径,即它们不具备开放式对话、连续式对话的能力。很多语音助手“智障”就体现在这一方面:它只能孤立地理解我们的提问,孤立地理解和提供答案,它们既不会联系上下文语境,也没法长时期跟我们聊下去。
LaMDA问世后被人称为“黑科技”,就是因为它可以通过阅读句子或段落,来“破译”对话意图,发现单词之间的关联,并预测接下来可能出现的单词,从而做出合乎语境的回答。这也就是所谓的“开放域”(Open Domain)对话能力。
出自谷歌的一段资料显示,当被问道“(成为)一架真正好的纸飞机的秘诀是什么?”时,LaMDA表示:“我首先要反问你,你指的‘好’,它的定义是什么?”通常来说,这种灵活性是我们之前的很多“智能助手”所不具备的。据谷歌介绍,LaMDA不仅追求事实、理智,甚至还会关注幽默感等能力。
图源谷歌
工程师称AI聊天机器人有灵魂,谷歌:没证据
争吵现在出现了。
据《华尔街日报》报道,谷歌软件工程师勒莫因(Blake Lemoine)表示,他认为LaMDA是一个有权利(rights)、甚至还可能有灵魂的“人”。据《纽约时报》报道,该言论其实由来已久:近几个月来,勒莫因一直在和谷歌的经理、人力和高管争执,勒莫因坚称,LaMDA具有意识(consciousness)和灵魂(soul)。
不过谷歌方面很快否认了他的说法。谷歌发言人表示,包括伦理学家和技术专家在内的公司专家已经展开了评估,相关证据并不支持勒莫因的说法。“数以百计的研究人员和工程师与LaMDA进行了对话,就我们所知,没有其他人像勒莫因那样,对LaMDA进行了广泛的认定或拟人化。”
谷歌方面还称,人工智能领域的一些人,正在考虑人工智能具有感知力的长期可能性,但“通过将没有感知力的对话工具拟人化来这样做,是没有意义的”。谷歌称,像LaMDA这样的系统,其运行方式是模仿数以百万句人类对话中的交流模型,从而让AI能够展开深入的交流。
Meta首席科学家、图灵奖获得者Yann LeCun表示,谷歌的技术,即科学家所说的神经网络,是通过分析大量数据来学习技能的数学系统。近年来,谷歌等企业通过从大量散文、书籍、百科文章,对神经网络进行学习,让这些“语言模型”可以适用于很多任务,比如写文章、回答问题等等。
但是它们有极大的缺陷:比如它们不稳定,有时候会写出完美的散文,有时候则胡说八道;它们依赖于重现(recreating)自己过去看到的模式,但它们无法像人类一样推理思考(reason)。
道德问题引争议,谷歌和员工再闹不愉快
双方的矛盾,不仅仅停留在“LaMDA是不是人”层面,它还衍生出了有关伦理和道德的争吵。
“在过去的六个月里,LaMDA在其沟通中表现出令人难以置信的一致性,即它想要什么,以及它认为它作为一个人的权利是什么,”美国陆军出身的勒莫因认为,LaMDA的智识相当于“7岁或者8岁的孩子”。既然LaMDA具有开放式对话的能力,那么谷歌在对它展开实验之前,应该先征求它的同意。
勒莫因称,谷歌对此建议置之不顾,反倒建议他休精神健康假,“他们一直在质疑我的理智,还问我:你去看过精神病医生了吗?”据《纽约时报》透露,勒莫因还在在线出版平台Medium上的一篇文章中写道:“让我感到困惑的是,它(LaMDA)的要求如此简单,而且对谷歌来说毫无成本,谷歌却极其强烈地抵制给予它想要的东西。”
在采访中,勒莫因表示,因为违反公司的保密政策,他已经于6月6日被安排带薪行政休假。他解释称,他并不是想激怒公司,而是想为他认为正确的事情发声。虽然他很希望自己能保住在谷歌的工作,但是在一篇Medium帖子中,勒莫因透露,他可能很快就会被解雇。
这不是谷歌围绕人工智能伦理问题,第一次和员工闹不愉快了。
去年12月,知名AI学者、人工智能伦理研究员格布鲁(Timnit Gebru)被谷歌开除。消息称,谷歌在阻止格布鲁有关人工智能系统偏见的研究发表后解雇了她。在推特等社交媒体上,随后有上千名谷歌员工、科技行业专家和学者对她进行了声援。不少人指出,谷歌的行为,证明了它在AI伦理方面的不足,更可能使其员工不敢发表那些可能会伤害谷歌利益的重要研究成果。
《黑函情报战》发预告 诺亚·琴蒂内奥变职场菜鸟
11月17日,由诺亚·琴蒂内奥、劳拉·哈德克、阿尔蒂·曼等人出演的《黑函情报战》发布正式预告,定档12月16日在线...
柯南×安室透再联手!《万圣节的新娘》曝终极预告
第25部《名侦探柯南》剧场版《名侦探柯南:万圣节的新娘》将于11月18日全国上映,预售现已全面开启!日前,影片...
广濑铃《若水沿流落于海》曝海报 定档2023年6月
11月17日,由前田哲导演,广濑铃主演的电影《若水沿流落于海》发布海报,宣布将于2023年6月在日本上映。 《若...
赖声川《如梦之梦》官宣阵容倪妮主演 胡歌送祝福
11月17日,话剧《如梦之梦》专属版官宣演员阵容,演员倪妮发文官宣自己饰演顾香兰,一组倪妮排练花絮图也同步曝光...
韩寒《四海》定档12月2日在中国台湾地区上映
11月17日,由韩寒执导,刘昊然、刘浩存、沈腾、尹正主演电影《四海》发布中国台湾地区版预告片,预计将于12月2日上...
“黑色新娘”酷毙了!蒂姆·伯顿《星期三》首映礼
当地时间2022年11月16日,美国洛杉矶,珍娜·奥尔特加(Jenna Ortega)、凯瑟琳·泽塔-琼斯、路...
《梦乡》11.18上线曝预告 杰森·莫玛饰半人半妖
由弗朗西斯·劳伦斯执导,杰森·莫玛和马洛·巴克利主演的Netflix奇幻冒险新片《梦乡》发布新预告,小女孩与半人半妖一...
《叫我郑先生》导演邹德全发文 呼吁院线多排片
11月17日,电影《叫我郑先生》导演邹德全发文,追思与涂们相处的日子。文章中讲述道:仅第二次见面,涂们老师就已...
《沼泽深处的女孩》终极预告 沼泽女孩陷爱恨纠葛
改编自全球现象级畅销小说的年度女性必看爱情成长佳作《沼泽深处的女孩》将于11月25日登陆全国影院。影片发布终极预告...
科幻喜剧《独行月球》:科影融合之路任重道远
原标题:《独行月球》:科影融合之路任重道远 电影《独行月球》是由张吃鱼执导,沈腾、马丽主演的科幻喜剧片,改...
等一个安妮·海瑟薇回归!《公主日记》第三部立项
已经拍摄了两部的《公主日记》是迪士尼旗下的经典影片。日前,据THR等报道,该系列的第三部正在筹备之中,新片为续集性质,...
宫崎骏《千与千寻》改编舞台剧 正式登陆流媒体
11月16日,根据宫崎骏动画名作《千与千寻》改编的舞台剧宣布登陆流媒体,并将于11月19日在19家流媒体平台播出。...
《大博弈》商场“极限”交锋 秦昊万茜再次梦碎
由周梅森编剧,韩晓军导演,秦昊、万茜、田雨、张萌、谭凯、柯蓝主演,改编自周梅森同名小说的现实主义题材力作《大博...
电影频道11月20日约19:47播出《古董局中局》
1905电影网专稿 上世纪90年代初,一尊从日本归还的佛头文物,牵扯出一场尘封五十年的惊天骗局…… ...
迪士尼《奇异世界》曝片段 家族奇幻世界大逃亡
近日,迪士尼动画新片《奇异世界》公布了一支正片片段。在片段中,冒险家族展开了大逃亡。而在他们的身后,是一大群说不清...
目黑莲《舞翔长空》曝剧照 “惹人嫌精英”将登场
日前,日杂《ザテレビジョン》披露了即将在NHK晨间剧《舞翔长空》中登场,目黑莲的大量剧照。初次出演晨间剧的目黑...
《忍者神龟:崛起》水墨风海报发布 定档11月19日
11月16日,全球知名IP《忍者神龟》系列全新动画电影《忍者神龟:崛起》发布中国定制版水墨风角色海报,独具东方...
女性版《加勒比海盗》被砍 原定“小丑女”出演
已经立项超过两年,进入到了剧本和筹备阶段的女性版《加勒比海盗》,被迪士尼彻底放弃。日前,在接受《名利场》杂志专...
《月圆月缺》预告 村花、目黑莲背德相恋暧昧感UP
11月15日,电影《月圆月缺》解锁“Remember Love版”网络预告。预告中,小野洋子的《Remember Lo...
《忍者神龟:崛起》曝预告 逆转未来超燃场面来袭
11月15日,全球知名IP《忍者神龟》系列全新动画版电影《忍者神龟:崛起》发布终极预告与终极海报,高能剧...