查看原文
其他

AI复苏:ChatGPT 威胁到语言多样性

Collin Bjork 摩登语言学 2023-06-17

ChatGPT 依靠上下文线索、文体结构、写作形式、语言模式和词频对查询作出反应。图片/Getty Images

观点

围绕人工智能(AI)技术(如 ChatGPT)的嗡嗡声是可想而知的。人们对这些工具的可能性既感到乐观又感到害怕。显然,这些技术将改变人们的写作方式。但就人们写什么而言,这些技术似乎是在拥抱现状。

事实上,这些工具目前的构建方式似乎使写作同质化--使一切听起来都一样。而听起来相同的写作不仅是枯燥的,它还会使不平等现象长期存在。

当写作工具将一种写作方式置于另一种写作方式之上时,它们就会强化现有的等级制度,不公平地将标准美式英语(SAE)和女王英语置于其他语言和写作方式之上。

ChatGPT 是如何工作的?

像 ChatGPT 这样的技术被称为大型语言模型(LLMs)。LLMs 通过使用机器学习来研究大量文本档案中的词语模式,对人类的命令作出文本反应。

然而,至关重要的是,ChatGPT 并不了解单词的含义。ChatGPT 通过对堆积如山的定义进行分类,然后将这些定义整理成适合查询语境的单一回应,从而生成定义。

换句话说,在没有意义作为指导的情况下,ChatGPT 依靠上下文线索、文体结构、写作形式、语言模式和词频对查询做出反应。

这种功能意味着,在默认情况下,ChatGPT 延续了主流的写作和语言使用模式,而将不太常见的模式搁置一边。

抹杀多样性

主导的写作模式并不是偶然成为主导的。它们之所以成为主导,是因为一个社会群体想要对另一个社会群体伸张权力。

例如,不存在一种英语。有许多英语。

例如,在许多美国课堂上优先使用标准美式英语的决定,意味着讲黑人英语的人--一种有自己的语法、词汇和非凡的抵抗历史的语言--因按自己的语言写作而受到惩罚和羞辱。

同样,在新西兰奥特亚罗亚地区,女王英语成为主导,并不是因为它在本质上比毛利语更好。相反,欧洲殖民者想铲除毛利文化,而用女王英语写作成为推进这一目标的关键工具。在 20 世纪,学生经常因为在学校说毛利语而被殴打。

违背默认

ChatGPT 的支持者会很快注意到,ChatGPT 可以阅读、分析和生成许多语言的内容,包括黑英语和毛利语。

但人们关注的不是ChatGPT 能做什么。

这是关于它的默认设置是什么。这是关于 ChatGPT 如何被配置为将某些形式的写作视为正常、典型和预期的。这是关于 ChatGPT 如何需要一个特殊的请求来生成非规范形式的写作。

这种有问题的默认行为也出现在 ChatGPT 的姐妹程序 Dall-E 2 中。这个生成图像的人工智能被要求根据这个提示为这篇文章创建一个图像。"在笔记本电脑上打字的手的特写照片"。该程序创造了四张图片。所有的图像都有一双白色的男性的手。

该方案需要一个更具体的提示,以产生一个包括有色人种的图像,因为即使是人工智能可视化写作的方式也是由白人男子主导的。

最终,这种算法上的偏见继续使讲英语的白人男子成为写作文化的标准,而将其他所有人赶到边缘。

它怎么会变成这样?

ChatGPT 的默认功能似乎优先考虑由白人开发的英语写作形式,这并不奇怪。长期以来,讲英语的白人男子一直主导着许多写作密集型行业,包括新闻、法律、政治、医学、计算机科学和学术界。

这些讲英语的白人男子总共写了数十亿字,比他们的有色人种同事多出许多倍。这些作者所写的字数之多,意味着他们很可能构成了 ChatGPT 的大部分学习模型,尽管 ChatGPT 的母公司 OpenAI 并没有公开披露其原始材料。

因此,当用户要求 ChatGPT 生成任何这些学科的内容时,默认的输出是以这些讲英语的白人男子的声音、风格和语言编写的。

挑战常规

有些人会说,我们需要写作的默认值和标准。他们认为,我们需要教人们用女王英语或 SAE 写作,这样人们就不会因为写作方式不同而错失工作和晋升机会。

但这种思路只是意味着屈服于工作场所的偏见,并通过我们的参与来加强不公正的制度。相反,其他学者说,我们需要挑战那些不公平的写作标准,并鼓励作家拥抱他们语言多样性中丰富的修辞可能性。

希望拥抱语言多样性的教育工作者可能会想禁止学校和大学使用文本生成的人工智能。

但值得记住的是,写作本身就是一种技术,过去和现在都被用来推进不平等。文学学者 Alice Te Punga Somerville 称这是 "写作与历史和持续暴力的不可分割性"。

然而,为了应对这种威胁,萨默维尔教授并不主张完全放弃写作。相反,她坚持以批判性和创造性的方式使用写作工具来抵制压迫。

在她的带领下,教育工作者可能反而会鼓励学生开发新的方式来部署这些工具,以组成一个更公平的未来。这样做意味着,正如弗肖恩-杨教授在《黑人英语》中所说。"好的写作看起来和听起来与一些人现在所期望的有点不同。另一个真正的、真正的好结果是我们帮助减少偏见"。

作者介绍

Collin Bjork,梅西大学高级讲师

https://www.massey.ac.nz/massey/expertise/profile.cfm?stref=485122

来源:nzherald.co.nz

译:DeepL

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存