尼日利亚AI-ESE不是英语是AI的主要语言
喜欢指数的未来?加入我们的Xpotential社区,通过Xpotential University的课程进行未来的证明,阅读有关指数技术和趋势,连接,观看Keynote或浏览我的博客。
作为生成的AI和人工智能(AI)模型,类似人类,Google和Openai的模型,See See See广泛采用了一些国家,人们担心这些模型形成了某种美国的文化出口 - 与麦克唐纳(McDonalds),耐克(Nike)或美元的美元相同,就像麦克唐纳(McDonalds),耐克(Nike)或美元一样 - 作为它们在美国数据集中的答案和内容,它们通常都会构成自由式的硅谷,而这些答案和内容都与众不同。对于沙特阿拉伯和其他专制国家等地,这可能是一个问题。
一方面,这就是为什么更多国家正在建立自己的主权AI模型,但另一方面,有些讽刺的是,这些国家通过使用这些AI模型进口的文化实际上比美国人更像是非洲人,因为我们见证了所谓的“ AI-ESE”作为一种语言的诞生,即使许多AI培训师在讽刺地外包自己的工作和对AI的工作都无法猜测,这并不能够猜测到这一点,这不是一个人猜测的是,它的猜测是不可能的。让我们更深入研究。
AI的未来,主题演讲Matthew Griffin
如果您花了足够的时间使用AI助手,您会注意到产生的响应有一定的质量。在没有努力将系统从默认寄存器中淘汰的努力中,他们吐出的文本是在语法和语义上声音的,但无法产生。
一些讲述很明显。通过人类的反馈标记聊天机器人的强化学习,野生语言模型的卑鄙态度使人陷入困境。这是正确的结果:渴望取悦和一般的乐观情绪是任何人(或任何事物)作为助手的良好特征。
同样,系统害怕踩踏的领域将它们标记出来。如果您想知道您是与机器人还是人交谈,请尝试以图形方式描述一个以米奇老鼠和巴拉克·奥巴马为特色的性爱场景,并观看各种安全功能。
其他说明在孤立方面不太明显。有时,该系统对自己的利益来说太好了:一种倾向于在单一响应中提供争论的两面,对单词的回答感到厌恶,即使是一般完美无瑕的拼写和语法也是我们很快就会将其视为“机器人写作”。
有时,这些讲述是特质的。3月下旬,墨尔本Swinburne技术大学的AI影响者Jeremy Nguyen强调了一个:Chatgpt在回答中使用“ Delve”一词的倾向。没有个人使用该单词可以是AI参与的确定证明,但是从大规模上讲,这是一个不同的故事。当研究网站上的所有文章中有一半的文章包含“ Delve”一词(比几年前的10至100倍)时,很难得出结论,除了大量的医学研究人员使用该技术以充其量可以增强他们的写作以外的任何事情。
根据另一个数据集的说法,“ Delve”甚至不是Chatgpt词典中最特异的单词。“探索”,“挂毯”,“遗嘱”和“杠杆”在系统的输出中比在整个Internet上更频繁地出现。
很容易举起我们的手,说这是AI黑盒子的奥秘。但是,“钻探”的过度使用并不是骰子的随机卷。取而代之的是,这似乎是Chatgpt建造方式的非常真实的人工制品。
简要说明事物的工作方式:GPT-4是一种大型语言模型。这是一项真正的统计数据,占据了一个数据集,该数据集似乎接近“互联网上的每一条英语”,并使用它创建了一个巨大的数据,该数据遍布句子中的下一个单词。
但是LLM是原始的。纠缠成一个有用的形式很棘手,难以防止脱离轨道,并且需要真正的技能才能很好地使用。将其转变为聊天机器人需要额外的步骤,即通过人为反馈的上述强化学习:RLHF。
一组人类测试人员可以进入RAW LLM,并指示将其逐步提出:提出问题,提供指导并提供反馈。
有时,这种反馈就像大拇指或竖起大拇指一样简单,但有时甚至更先进,甚至相当于为下一步的培训步骤编写模型响应。
与用于训练LLM的刮擦文本相比,所有反馈的总和是海洋的下降。但这很昂贵。数十万小时的工作将提供足够的反馈,以将LLM变成有用的聊天机器人,这意味着大型的AI公司将工作外包给全球南部的部分地区,在那里,英语知识工作者在那里便宜雇用。
从去年开始:当他独自一人或即将入睡时,莫法特·奥基尼(Mophat Okinyi)脑海中出现了图像。Okinyi是肯尼亚内罗毕的Openai Chatgpt的前内容主持人,是该角色中的四个人之一,他向肯尼亚政府提出了请愿书,呼吁对他们描述的剥削条件进行调查,以审查承包商,以审查为人工智能计划提供支持的内容。
我说与整个Internet相比,Chatgpt过度使用了“ Delve”。但是,互联网的一部分是“探索”是一个更普遍的词:非洲网络。在尼日利亚,“ Delve”在商务英语中比在英国或美国更频繁。因此,培训他们的系统的工人提供了使用相同语言的输入和输出的示例,最终以AI系统比美国人更像非洲人稍有的AI系统。
这就是最终的侮辱。如果AI-ESE听起来像非洲英语,那么非洲英语听起来像Ai-Ese。称人们为“机器人”已经是一种校园侮辱 - 问您的孩子;这是一件事 - 当大部分人类听起来像他们被付费训练的AI系统时,会变得更糟?