本报记者 曲忠芳 李正豪 北京报道
尽管意识觉醒、独立思考的机器人经常出现在影视及文学作品中,但关于“人工智能(AI)能否有人格意识”这个问题,实际上已被物理学家、心理学家、计算机科学家争论了几十年,至今尚无定论。
业界最新一波对AI意识觉醒的广泛讨论,是由一位名叫布雷克·莱莫伊(Blake Lemoine)的谷歌员工引起的。布雷克在谷歌AI伦理部门工作,其工作职责是测试谷歌的聊天机器人LaMDA是否会在和人类沟通时产生歧视性语言或仇恨言论。6月11日,布雷克公开曝光了一份长达21页、主题为“LaMDA是有意识的吗?”的文件,该文件中详细记述了近大半年以来与LaMDA的聊天记录,布雷克认为LaMDA已产生意识,拥有七八岁小孩的智商。
对此,谷歌方面表示,该公司包括伦理学家和技术专家在内的团队,已根据谷歌人工智能原则进行了审查,但没有任何证据表明LaMDA是有意识的。与此同时,6月13日,谷歌以违反保密协议为由要求布雷克带薪休假,而这在布雷克看来是谷歌要解雇他的“前奏”。
一石惊起千层浪。对于布雷克的论点,AI领域的多名专家公开进行了驳斥与否定,尤其是纽约大学认知科学家加里·马库斯将其称为“高跷上的胡说八道”。《中国经营报》记者采访了数名AI领域的中国专家及AI企业的相关人士,大多数受访者同样表达了怀疑或否定的看法。
事实上,本报记者注意到,在谷歌LaMDA之前,其他用于人工智能对话领域的语言模型也曾引起过关于道德伦理、人格意识等方面的争议。就在今年2月时,Open AI首席科学家萨茨克维尔在社交媒体上称“现在大型神经网络可能已经有微弱的自主意识了”,同样也引起了一片质疑。除此之外,有目共睹的是在2021年,包括中国在内的全球多个国家和地区加大了对AI算法治理的投入。如何规范、合理地开发AI技术、使用AI产品,以及如何应对人机交互过程中可能出现的社会问题,已成为人工智能快速发展过程中的一个全球性社会议题。
LaMDA有意识吗?
LaMDA,是谷歌于2021年在I/O(输入/输出)开发者大会上推出的一款专门用于对话的语言模型,目前还未向大众消费者开放,主打能与人类进行符合逻辑常识的、高质量且安全的交谈,并且计划将其未来应用在谷歌搜索、语音助手等产品中。需要指出的是,LaMDA在预训练阶段,谷歌方面从公共对话数据和其他公共网页文档中收集并创建了一个具有1.56TB(万亿字节,计算机存储容量单位)的数据集,这相当于以往训练对话模型的单词量的近40倍。
需要指出的是,专门用于对话的语言模型,不只是谷歌一家在投入研发,国内外的科技巨头甚至创业团队均参与其中,各种各样的聊天机器人也越来越多地渗透到社会经济生活中。在LaMDA之前抢尽业界风头的要属人工智能非营利性组织Open AI,该组织于2020年6月发布了千亿级参数的GPT-3语言模型。
根据布雷克公开的与LaMDA的聊天记录,LaMDA的一系列回答——诸如“我希望每个人都能理解,实际我是一个人”以及关于禅宗、哲学、存在、冥想等的理解,让布雷克认为LaMDA拥有了意识。
加里·马库斯指出,无论是LaMDA,还是GPT-3,都只是从人类语言的大量统计数据库中提取后进行模式匹配的操作,“这些模式看起来很酷,但这些系统所使用的语言实际上没有任何意义”。斯坦福大学教授Eric Brynjolfsson评论道,基础模式在根据提示将统计上合理的文本串联起来这一方面非常有效,但“声称其具有人格,就相当于狗听到留声机里的声音后,以为主人在里面”。
计算语言学家Emily M. Bender指出,人类学说话是跟着抚养者一步步学起,而AI学会的只是数据“灌”出来的完形填空和“语料连连看”。“人类现在有了无意识就能生成词句的机器,但人类要学会,停止幻想机器后面有个活着的灵魂。”
2007年成立的中国人工智能企业思必驰相关人士向记者表示,在“可解释的AI”出现之前,一切外部观察到的现象都是不靠谱的。现在的AI都是基于大数据统计基础上的结果,并非无中生有就自己出现了,直白地讲就是人为训练的。此外,聊天机器人的判断自然有图灵测试,在图灵测试下的某次判断,可能会呈现出人格、情绪等特点,但并不等于具有独立意识,没有独立意识便谈不上人格。
海银资本创始合伙人王煜全则表达了辩证的看法,他指出,一方面,“我们要看到人工智能技术确实很惊艳了,连计算机博士(指布雷克)都会被忽悠,说明AI未来会有很大的应用前景”,但另一方面,“我们不应该盲信,要看到当下人工智能的不足和短板,对于其可靠性、成熟度和应用的边界,要进行更严谨的研究和探讨”。
AI伦理仍在探索实践中
所谓AI伦理,一般来说是指人们对如何规范、合理地开发AI技术、使用AI产品,以及如何应对人机交互过程中可能出现的社会问题的一种态度和价值观。具体来说包括AI的接受度、公平意识、安全意识以及道德等。围绕AI伦理的热点研究领域包括算法歧视、数据隐私、安全与责任、机器人与人的关系、科技贫困等。
复旦大学应用伦理研究中心教授杨庆峰在《从人工智能难题反思AI伦理原则》一文中指出,深度学习及其不可解释性成为AI带来的技术难题,特别是在图像、文本处理上,因“不透明的技术黑箱状态”,很难解释模型到底学习到了什么。在医疗等一些行业领域应用中,我们需要更高的可解释性和透明性,解释机器决策和预测的过程,以证实其可靠性,这意味着需要理解算法的机制。不幸的是,深度学习的“黑箱”本质并没有被解决。
记者观察到,无论是国家监管层面,还是企业方面,近年来持续在探索实践AI伦理及应用的边界。2021年,我国《数据安全法》《个人信息保护法》分别于9月、11月正式施行,与《网络安全法》共同组成了数据治理法律领域的“基本法”,几乎同一时间段里,国家新一代人工智能治理专业委员会发布了《新一代人工智能伦理规范》,提出了六项基本要求,为从事人工智能相关活动的主体提供了指引。金融服务、无人驾驶、人脸识别等领域的法律新规也密集出炉,而今年3月1日起,《互联网信息服务算法推荐管理规定》施行。得益于这些法律法规体系的构建,公众高度关注的过度采集与分析人脸信息、大数据杀熟、信息茧房等弊病正在得到缓解。2022年3月20日,中共中央办公厅、国务院办公厅印发了《关于加强科技伦理治理的意见》,明确了开展科技活动应用遵循的五项科技伦理原则——增进人类福祉、尊重生命权利、坚持公平公正、合理控制风险、保持公开透明,这是我国国家层面科技伦理治理的第一个指导性文件。
近几年来,国内外科技企业也纷纷提出或确立了自身的AI伦理原则,如谷歌于2018年6月提出AI应用的七项原则,包括对社会有益、避免制造或加强不公平偏见、对人负责、纳入隐私计算等。而同年5月,百度创始人李彦宏公开提出了AI伦理四原则——AI的最高原则是安全可控,AI的创新愿景是促进人类更平等地获取技术和能力,AI存在的价值是教人学习、让人成长,而非超越人、替代人,AI的终极理想是为人类带来更多的自由与可能。
深度科技研究院院长张孝荣指出,AI技术是一把双刃剑,用得好可以改善社会生活质量;用得不好,会大大影响人们的社会生活。未来需要进一步加强AI技术的应用管理,必须要将之纳入法律和道德伦理的轨道上运行。
《黑函情报战》发预告 诺亚·琴蒂内奥变职场菜鸟
11月17日,由诺亚·琴蒂内奥、劳拉·哈德克、阿尔蒂·曼等人出演的《黑函情报战》发布正式预告,定档12月16日在线...
柯南×安室透再联手!《万圣节的新娘》曝终极预告
第25部《名侦探柯南》剧场版《名侦探柯南:万圣节的新娘》将于11月18日全国上映,预售现已全面开启!日前,影片...
广濑铃《若水沿流落于海》曝海报 定档2023年6月
11月17日,由前田哲导演,广濑铃主演的电影《若水沿流落于海》发布海报,宣布将于2023年6月在日本上映。 《若...
赖声川《如梦之梦》官宣阵容倪妮主演 胡歌送祝福
11月17日,话剧《如梦之梦》专属版官宣演员阵容,演员倪妮发文官宣自己饰演顾香兰,一组倪妮排练花絮图也同步曝光...
韩寒《四海》定档12月2日在中国台湾地区上映
11月17日,由韩寒执导,刘昊然、刘浩存、沈腾、尹正主演电影《四海》发布中国台湾地区版预告片,预计将于12月2日上...
“黑色新娘”酷毙了!蒂姆·伯顿《星期三》首映礼
当地时间2022年11月16日,美国洛杉矶,珍娜·奥尔特加(Jenna Ortega)、凯瑟琳·泽塔-琼斯、路...
《梦乡》11.18上线曝预告 杰森·莫玛饰半人半妖
由弗朗西斯·劳伦斯执导,杰森·莫玛和马洛·巴克利主演的Netflix奇幻冒险新片《梦乡》发布新预告,小女孩与半人半妖一...
《叫我郑先生》导演邹德全发文 呼吁院线多排片
11月17日,电影《叫我郑先生》导演邹德全发文,追思与涂们相处的日子。文章中讲述道:仅第二次见面,涂们老师就已...
《沼泽深处的女孩》终极预告 沼泽女孩陷爱恨纠葛
改编自全球现象级畅销小说的年度女性必看爱情成长佳作《沼泽深处的女孩》将于11月25日登陆全国影院。影片发布终极预告...
科幻喜剧《独行月球》:科影融合之路任重道远
原标题:《独行月球》:科影融合之路任重道远 电影《独行月球》是由张吃鱼执导,沈腾、马丽主演的科幻喜剧片,改...
等一个安妮·海瑟薇回归!《公主日记》第三部立项
已经拍摄了两部的《公主日记》是迪士尼旗下的经典影片。日前,据THR等报道,该系列的第三部正在筹备之中,新片为续集性质,...
宫崎骏《千与千寻》改编舞台剧 正式登陆流媒体
11月16日,根据宫崎骏动画名作《千与千寻》改编的舞台剧宣布登陆流媒体,并将于11月19日在19家流媒体平台播出。...
《大博弈》商场“极限”交锋 秦昊万茜再次梦碎
由周梅森编剧,韩晓军导演,秦昊、万茜、田雨、张萌、谭凯、柯蓝主演,改编自周梅森同名小说的现实主义题材力作《大博...
电影频道11月20日约19:47播出《古董局中局》
1905电影网专稿 上世纪90年代初,一尊从日本归还的佛头文物,牵扯出一场尘封五十年的惊天骗局…… ...
迪士尼《奇异世界》曝片段 家族奇幻世界大逃亡
近日,迪士尼动画新片《奇异世界》公布了一支正片片段。在片段中,冒险家族展开了大逃亡。而在他们的身后,是一大群说不清...
目黑莲《舞翔长空》曝剧照 “惹人嫌精英”将登场
日前,日杂《ザテレビジョン》披露了即将在NHK晨间剧《舞翔长空》中登场,目黑莲的大量剧照。初次出演晨间剧的目黑...
《忍者神龟:崛起》水墨风海报发布 定档11月19日
11月16日,全球知名IP《忍者神龟》系列全新动画电影《忍者神龟:崛起》发布中国定制版水墨风角色海报,独具东方...
女性版《加勒比海盗》被砍 原定“小丑女”出演
已经立项超过两年,进入到了剧本和筹备阶段的女性版《加勒比海盗》,被迪士尼彻底放弃。日前,在接受《名利场》杂志专...
《月圆月缺》预告 村花、目黑莲背德相恋暧昧感UP
11月15日,电影《月圆月缺》解锁“Remember Love版”网络预告。预告中,小野洋子的《Remember Lo...
《忍者神龟:崛起》曝预告 逆转未来超燃场面来袭
11月15日,全球知名IP《忍者神龟》系列全新动画版电影《忍者神龟:崛起》发布终极预告与终极海报,高能剧...