非洲“小手”如何训练ChatGPT

几项调查显示，人工智能公司如何将业务外包给非洲，有时情况非常糟糕。

一名肯尼亚工人以每小时仅两美元的价格努力“降低 ChatGPT 的毒性”， 时间的指导性调查. 人工智能（AI）的应用彻底改变了互联网。 但如果认为简单的机器人能够成功创建这种新型应用程序是错误的：发出暴力、性别歧视和种族主义言论，有必要训练人工智能，它从充满歧视性言论的网络中获取信息。 ChatGPT 的创建者 OpenAI 拥有 向一家肯尼亚公司发送了数万份文本摘录。 分包任务将于 2021 年 XNUMX 月开始。

虽然 Sama 是一家总部位于旧金山的公司，但它在肯尼亚、乌干达和印度雇用了员工。 并为谷歌、Meta 和微软工作。 虽然它自称是一家致力于“道德人工智能”的公司，并声称已帮助 50 多人摆脱贫困，但事实并非如此：OpenAI 承包商每小时的收入在 000 到 1,32 美元之间。

OpenAI 承认：“我们的使命是确保通用人工智能造福全人类，我们努力构建安全有用的人工智能系统，以限制偏见和有害内容。” 但这份艰苦的工作实际上是留给非洲“小手”的。 赋予肯尼亚人的使命令人回味 Facebook 如何利用员工来调整其内容.

“酷刑”

“这是一种折磨，”一位负责阅读动物恋内容的 Sama 员工总结道。 以至于在 2022 年 200 月，也就是合同到期前八个月，萨马因为恶劣的工作条件而中止了分包合同。 据时代周刊报道，萨马为他的任务赚了 000 万美元，大约 XNUMX 名肯尼亚人不得不阅读充满性虐待、仇恨言论和暴力的内容。 建议在 “福利”已提供给员工，Sama 确保 聘请了“受过专业培训并获得许可的心理健康治疗师”。 员工争论什么。

除了心理上的困难，令人震惊的是初创公司的工作条件： 据《时代》杂志报道，虽然肯尼亚没有规定的最低工资，但 OpenAI 承包商的收入几乎不及内罗毕的接待员。 “ 技术公司通常将耗时且价值低估的任务外包给许多不稳定的工人，这些工人通常位于南方国家”，数字社会学家 Clément Le Ludec 和人工智能社会学博士生 Maxime Cornet 表示。

他们在马达加斯加发现了一个与数据工作有关的类似任务。 “我们的研究还展示了‘法式人工智能’的现实：一方面，法国科技公司依赖 GAFAM 服务来访问数据托管服务和计算能力； 另一方面，与数据相关的活动是由位于前法国殖民地，特别是马达加斯加的工人进行的，从而证实了外包链方面已经存在的旧逻辑”，他们写道。

分包商隐形化

问题：非洲工人“位于一长串外包链的末端，这部分解释了这些技术工人的低工资”。 至于公司，它们通常由外国人持有。 在两位研究人员研究的 48 家在自由区提供数字服务的公司中，只有 9 家由马达加斯加持有，而法国有 26 家。

“根据两位研究人员的说法，这种模式让人想起研究员 Jan Padios 所说的‘殖民回忆’。 前殖民地国家与发出命令的国家具有语言技能和文化接近性，服务公司从中受益”。 一种经济后殖民主义，不幸的是，这常常导致人工智能工作者的隐身，如果没有这些调查，他们将永远处于最彻底的匿名状态。