查看原文
其他

泰德·姜:现在根本没有“人工智能”,不过是“应用统计学”而已

Madhumita Murgia 摩登语言学 2023-06-17

科幻作家泰德·姜主张当前的人工智能仅仅是应用了统计学,缺乏真正的意识。他批评大型语言模型仅被用于生成毫无价值的文本,但他承认聊天机器人可以提供慰藉。他担心人工智能会加剧社会不平等,但更加关注人工智能背后的社会和哲学问题。他认为科幻小说可以激发人们思考不同的可能性。

当我询问泰德·姜是否愿意和我一起吃午餐时,他的回答就像他写的故事一样简洁而准确:“他回信说:‘我很乐意谈论人工智能的当前时刻以及科幻小说与之的关系。但我不会谈论我的个人生活。如果你不介意的话,我可以和你共进午餐。’”

我对泰德·姜的个人生活不感兴趣,而是对他内心世界的好奇。作为华裔美国作家,他是他这一代最值得赞赏的科幻作家之一。在过去的30多年里,他只写了18个短篇小说,却赢得了多个主要科幻奖项。他的长篇小说《你的人生故事》讲述了一位语言学家学会与外星物种交流的故事,这个故事后来被改编成好莱坞电影《降临》。

泰德·姜的小说带有他独特的风格:简洁、科学严谨,最重要的是,具有惊人的创造力。在他最短的故事之一《我们的期望》中,一个名为“预测者”的装置使人类陷入疯狂。这个装置就像一台汽车遥控器,由一个按钮和一个绿色的LED灯组成。灯总是在按下按钮的前一秒闪亮。当人们试图超越它时,他们发现这是不可能的。这个概念展示了在这个想象的世界中缺乏自由意志的悲剧,然而,人类为什么需要相信它才能生存。所有这些只用了两页半的篇幅。

我们已经同意在华盛顿州贝尔维尤市一家名为地中海厨房的餐厅见面,这家餐厅位于一片绿树成荫的地区,与隔湖相望的西雅图。泰德·姜漫不经心地走了进来,他今年55岁,身材瘦削,脸上没有皱纹,他将灰色的头发扎成一个长马尾。他穿着白色T恤和奶油色长裤。他非常有礼貌,但从不立即回答问题。

他说:“当人们得知我在东海岸长大时,常常会感到惊讶。我总是想到这位漫画家[约翰]卡拉汉的一幅漫画——这是一个关于纽约和洛杉矶之间的区别的小板块。在纽约,这个人说:'去你妈的',但思想的气泡却是'你好!'。而在洛杉矶,这个人说:'你好',但思想的气泡却是'去你妈的!'。" 他向我保证这不是他目前所想的。"但我想我是安静的。"

因此,如果他必须为人工智能发明一个不同的术语,那会是什么呢?他的答案是即时的:应用统计学。

我直接从旧金山赶来,在那里我访问了世界领先的人工智能公司。每个人都在思考"生成性"人工智能,这是一种新型的软件,可以根据对话查询产生类似人类的散文和图像。硅谷中这些新工具的发明者们正在努力应对前所未有的哲学挑战,这种挑战来自于一种可以使用人类语言的技术。

这些都是泰德·姜作品的读者所熟悉的主题:语言和认知之间的关系、超人类智能的影响,以及最终,我们在世界中的地位的转变。

我们还没来得及点菜,兼任服务员的老板就端着两碗热气腾腾的红扁豆汤来了。味道一下子就唤醒了我的味蕾:咸而刺鼻的味道。当我们吃的时候,泰德·姜以他沉思的方式对我的观察提出异议,即他的虚构世界和我们所居住的世界越来越接近,令人不舒服。

他说:“我们现在的机器,它们没有意识。当一个人教另一个人时,那是意识之间的互动。" 同时,人工智能模型是通过调整所谓的“权重”或模型中不同变量之间的连接强度来训练的,以获得所需的输出。" 如果认为你在教孩子时,你所做的只是调整网络中的权重,那将是一个真正的错误。"

泰德·姜的主要反对意见是一种作家式的反对意见,反对我们选择用来描述这一切的词语。拟人化的语言,如 "学习""理解""知道" 和个人代词,如 "",被人工智能工程师和记者投射到聊天机器人(如ChatGPT)上,创造了一种幻觉。他说,这种草率的用词推动了我们所有人——即使是那些非常熟悉这些系统如何工作的人——在人工智能工具中看到灵性的火花,而实际上根本没有。

"不久前在Twitter上有一个对话,有人说:'什么是人工智能?' 还有人说:'1954年的一个糟糕的选词。'" 他说,"而且,你知道,他们是对的。我认为,如果我们在50年代为它选择了一个不同的短语,我们可能已经避免了很多我们现在遇到的混乱。"

因此,如果他必须发明一个术语,那会是什么呢?他的答案是即时的:应用统计学。

他说:"真正令人惊讶的是......这些东西可以从对大量文本的统计分析中提取出来。" 但是,在他看来,这并不意味着这些工具是智能的。应用统计学是一个更精确的描述词,"但没有人愿意使用这个词,因为它不那么吸引人"

在泰德·姜2010年的长篇小说《软件对象的生命周期》中,前动物园管理员安娜在一家人工智能公司工作,开发有知觉的数字生命(被称为 "数码人"),作为虚拟宠物出售。这些机器与今天的人工智能不同,它们是有意识但不成熟的。小说通过多年的思想实验探讨了科技创造者与他们的发明之间的关系,以及创造一种新型智能所产生的哲学问题。它探讨了这些机器的道德观、谁对它们负责以及它们是否能够做出自己的决定。不知何故,在泰德·姜的手中,这个故事也变成了一幅关于父母与放手的亲密画卷。

我对他的故事的起源感到好奇,这些故事似乎总是在两个层面上发挥作用:单一的扩展性科学概念,如量子力学、人工智能或被推到极限的理论数学,以及普通人类生活的细微差别:工作、爱情和家庭。

我们的食物接二连三地送来,打断了我们的思路:首先是一份meze拼盘,里面有一些精选的蘸料,如烟熏的baba ganoush、香料花椰菜和带有薄荷叶的奶油labneh,同时还有橄榄和西红柿、黄瓜等小菜。还有温热的皮塔饼可以蘸着吃。

"对我来说,想法往往会在闪现之后立即消失。但有时一个想法会在几个月甚至几年的时间里一次又一次地在我的脑海中出现,"姜说着,他吃着脆皮花椰菜。"然后我开始怀疑,也许这个想法就是我需要写一个故事的素材。因为出于某种原因,这个想法不会放过我。"

在我还没有取得什么进展的时候,泰德·姜的臭豆腐(一种用橄榄油和柠檬汁慢炖的蚕豆和鹰嘴豆)和我的spanakopita--用羊奶酪和菠菜做馅的filo面饼--出现了,两者都有一坨藏红花米饭和鹰嘴豆泥放在旁边。桌上似乎传来了满足的呻吟声。

有一些主题是泰德·姜经常回到的:语言如何塑造我们的思维方式和我们的身份,以及自由意志是否存在。

在他2019年的故事《焦虑是自由的眩晕》中,人们经常打开通往平行宇宙的门户--这是科幻小说中常见的一种设定--并与另一个自己进行对话。他最初的构思是探索这样一种装置的形态和如何利用量子计算机来实现。

然而,这个故事也探讨了人们对自身机构变化的感知,当他们的另一个自我采取不同的行动时,他们角色中的决策重要性如何减弱。"我开始越来越多地思考这个问题,然后故事就变成了一个关于自由意志的探究。

尽管他对这些人工智能工具的能力持有保留态度,他表示聊天机器人生成的文本不一定是人们愿意阅读或撰写的。

虽然他的故事体现了复杂的概念,但泰德·姜一直坚持以短篇小说的形式展现。他认为这是科幻小说的悠久传统的一部分。早在15岁时,他就向一家杂志提交了他的第一个短篇小说,并从Arthur C ClarkeIsaac Asimov等大师那里获得了启发。尽管他坚定地认同这一传统,与像玛格丽特-阿特伍德或石黑一雄这样的文学或投机小说作家不同,但他的作品不知不觉地跨越了类型的界限,吸引了一个全新的观众,一直到好莱坞。

"我不得不说,我的作品能够触及到那些不仅仅是普通科幻小说读者的读者,对我来说完全是个惊喜。这超出了我的想象。" 泰德·姜说道。一些文学经纪人曾告诉他,他的作品永远无法进入主流读者的视野。

他说,他写作的原因是,这是一种必然。他引用了作家安妮-迪拉德(Annie Dillard)的话:"有一些你觉得有趣的东西,但又无法解释为什么。这种解释很难,因为你从未在任何一页上读到过它;你是从那个地方开始的。你被创造出来,被安排在这里,为了这个,为了你自己的惊奇而存在。"

"它之所以有趣,正是因为还没有人去阐述它,而你想要去做," 泰德·姜说道。"所以这就是你所做的。"

泰德·姜建议我们去附近的贝尔维尤市中心公园用午餐。我说服他多待一会儿,并与我们分享了一些面包圈。他进入餐厅,亲自将它们放在一个白色的小盘子上,每人一个正方形,我们一口气吃完了它们。

考虑到他对语言和智能之间关系的迷恋,我对他对人工智能写作的看法特别感兴趣,例如ChatGPT等生成的文本类型。我问道,机器生成的文字将如何改变我们两人的写作风格?在我们的对话中,我第一次察觉到了一丝不安的情绪。"它们所写的东西能够与人进行真正的对话吗?"我问道。"我的意思是,ChatGPT生成的任何文章都能真正与人对话吗?"

泰德·姜的观点是,大型语言模型(LLMs),如ChatGPT和谷歌的Bard等聊天机器人的基础技术,主要用于生成填充文本,这些文本没有人愿意读或写,正如人类学家大卫-格雷伯(David Graeber)所称的 "狗屁工作"。他承认,由人工智能生成的文本并不讨人喜欢,但在某些特定领域或许会有用处。

"然而,一些大型语言模型可能会使用它们进行某些工作,这并不完全是对他们能力的高度认可,"他解释道。"这更多是对我们在日常生活中需要产生和处理大量无关紧要的文字的一种观察。"

泰德·姜担心不平等现象日益加剧,认为人工智能加剧了这种不平等,使权力集中在少数人手中。

在他发表在《纽约客》上的一篇文章中,他概述了他的想法,标题是 "ChatGPT是网络的模糊JPEG"。他将语言模型描述为对它们所训练的文本的模糊模仿,即按照语法规则重新排列的单词序列。由于技术重组的材料与现有材料略有不同,给人的理解留下一些模糊的印象。

当我告诉他我五岁的孩子如何发明单行笑话,大部分是双关语,并在我们身上试验时,他对此充满兴趣。这个小故事让他感到非常兴奋。

"你的女儿听了笑话,并觉得很有趣。但ChatGPT并不觉得有什么好笑的,它也不试图搞笑,"他解释道。"你女儿所做的事情具有重要的社会成分。"

同时,ChatGPT也不是"在心理上排练事情,以便下次我们一起玩时,看看是否能让你们笑出来"。泰德·姜认为,没有人类带来的意图、情感和目的,语言变得毫无意义。"语言是一种促进与其他生物互动的方式,这与我们现在所拥有的[人工智能工具]的下一句话预测完全不同。

这是一个适合在公园散步的灿烂日子,尤其是这个拥有明亮的粉红色绣球花丛和广阔水景的青翠空间。我们以轻快的步伐开始散步,讨论科幻小说为什么如此重要。虽然他不是为了挑动而写作,但他认为科幻小说可以成为一种激进的力量。"科幻小说是关于改变的,它帮助人们想象一个与现实不同的世界,"他说。

这与英国文化评论家和政治理论家马克-费舍尔曾经说过的话相似。泰德·姜转述道:解放政治的作用是揭示那些我们被告知是不可避免的事情实际上是偶然的,而那些被告知不可能的事情实际上是可以实现的。"我认为科幻小说也可以承载这样的观点"

尽管泰德·姜没有将政治与他的小说混为一谈,但他确实担心人工智能是资本主义的 "力量倍增器"。在他为BuzzFeed撰写的一篇2017年的文章中,他将技术专家与他们所谓的超级智能人工智能创造物进行了比较:这些实体"一心一意地追求他们的目标,对消极后果的可能性视而不见"

我明白了,与人类的互动是一件困难的事情。它需要很多付出,而且往往没有回报。社交聊天机器人可以为人们提供安慰,提供真正的慰藉。

他的担心并不是像研究人员预测的那样,出现人工智能占领世界的末日情景。他更担心的是不断加剧的不平等,人工智能等技术加剧了这种不平等,使权力集中在少数人手中。

现在,我们已经在公园里走了几圈,我开始认出其他一些步行者:一对母女,一位带着两条腿的狗的女士,以及坐在长椅上,拿着书、杂志和冰激凌的人。我转向泰德·姜,问他如何想象当人们经常与机器交流时世界会发生什么变化。

我们沉默地走了几分钟,然后他突然问我是否记得汤姆-汉克斯的电影《荒岛余生》。在他的孤岛上,汉克斯有一个叫威尔逊的排球,是他唯一的伙伴,他对这个伙伴非常依赖和喜爱。"我认为这是思考这些系统更有用的方法,"他告诉我。"这并不削弱汤姆-汉克斯的角色对威尔逊的感情,因为威尔逊给他提供了真正的安慰。但问题是......他正在投射自己的情感到一个排球上。那里没有其他人"

他承认,为什么人们可能开始喜欢和人工智能系统对话,而不是相互之间对话。"我明白,与人互动是一件困难的事情。它需要很多付出,而且往往没有回报,"他说。但他觉得,现代生活已经让人们感到孤立无援,让他们渴望获得陪伴。"因此,现在排球有市场机会,"他说。"社交聊天机器人可以为人们提供安慰,真正的慰藉,就像威尔逊提供的那样。"

但最终,使我们的生活有意义的是我们从人类互动中获得的共鸣和意图——人们相互回应。他说:"有了人工智能,感觉就像另一端有人在。但实际上并没有。"

来源:www.ft.com

往期:



您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存