为什么我们需要遏制AI炒作并回归现实

责任编辑:cres

作者:Marcus Merrell

2024-09-02 11:56:02

来源:企业网D1Net

原创

本文探讨了GenAI的现状及其三个不可解决的核心问题:幻觉、非确定性输出和标记补贴。

在过去的18个月里,我观察到关于大型语言模型(LLMs)和GenAI的讨论正在迅速增长。对于未来的兴奋和夸大的猜测也随之膨胀——甚至可能形成了泡沫,这给当前AI工具的实际应用投下了阴影,这种炒作凸显了目前AI的深刻局限性,同时也削弱了这些工具在实际应用中的潜力。
 
我们仍然处于AI的“幼儿期”,像ChatGPT这样的流行AI工具虽然有趣且在某种程度上有用,但它们尚不能被完全依赖来完成整体工作,它们的答案不可避免地带有创造它们的人类的错误和偏见,以及它们训练所用来源的影响,这些来源的可靠性也常常令人怀疑,这些“幻觉”更像是我们自身心理的投射,而非真正的、正在萌芽的智能。
 
此外,还存在一些真实而具体的问题,例如AI迅速增加的能源消耗,这有可能加速一场生存性的气候危机。最近的一份报告发现,例如,Google的AI系统在应对搜索请求时必须创建全新的信息,这比直接从一个来源提取信息大约需要多30倍的能量,与ChatGPT进行一次互动所消耗的电力相当于一个60瓦灯泡亮三分钟所需的电量。
 
那么,谁在“幻想”呢?
 
我的一位同事毫不讽刺地声称,由于AI的出现,高中教育将在五年内变得过时,并且到2029年我们将生活在一个人人平等的天堂,摆脱繁琐的劳动,这一预测受到了Ray Kurzweil关于“AI奇点”预测的启发,描绘了一个充满乌托邦式承诺的未来。
 
对此,我愿意下注。我认为,要从ChatGPT-4的“幻觉”和意外行为发展到一个我不再需要自己装洗碗机的世界,可能需要的不仅仅是五年,甚至不止25年。
 
GenAI存在三个无法解决的棘手问题。如果有人告诉你这些问题总有一天会被解决,你应该明白,他们要么对自己在说什么一无所知,要么就是在兜售一些并不存在的东西。他们生活在一个纯粹由希望和信念构筑的世界里,这个世界里的人曾让我们相信加密货币和比特币会取代所有银行,汽车将在五年内实现完全自动驾驶,以及元宇宙将取代大多数人的现实生活。他们现在试图吸引你的注意力和参与,以便在你上钩后,他们可以提高价格,然后在市场崩溃之前从你那里赚钱。
 
三个无法解决的现实问题
 
幻觉
 
地球上既没有足够的计算能力,也没有足够的训练数据来解决幻觉问题。GenAI可能会生成事实不正确或无意义的输出,这使得它在需要高准确性的关键任务中不可靠。根据Google CEO Sundar Pichai的说法,幻觉是GenAI的“固有特性”,这意味着模型开发者只能期望减少幻觉可能带来的危害,而无法完全消除它们。
 
非确定性输出
 
GenAI本质上是非确定性的,它是一个基于数十亿标记的概率引擎,通过实时计算和百分比形成和重组输出,这种非确定性特质意味着AI的回应可能会有很大差异,这对软件开发、测试、科学分析或任何需要一致性的领域来说都是一个挑战。例如,利用AI确定测试移动应用特定功能的最佳方法可能会产生一个不错的结果,然而,即使你再次输入相同的提示,也不能保证会得到相同的结果——这就造成了问题性的变异性。
 
标记补贴
 
标记是AI难题中一个尚未被充分理解的部分。简单来说,每次你提示一个LLM,你的查询会被分解为“标记”,这些标记是你得到的回应的种子——回应也是由标记组成的——你会为每个请求和回应中的每个标记支付不到一美分的费用。
 
投资于GenAI生态系统的数千亿美元中的很大一部分直接用于降低这些成本,以推动广泛的采用。例如,ChatGPT每天约产生40万美元的收入,但系统的运营成本需要额外的70万美元投资补贴才能维持运转。在经济学中,这被称为“亏损领袖定价”——还记得2008年Uber有多便宜吗?你有没有注意到,当它变得普及时,现在的价格已经和出租车一样贵了?将同样的原理应用于Google、OpenAI、Microsoft和Elon Musk之间的AI竞赛,你我可能会开始担心,当他们决定开始盈利时,局面会变得如何。
 
实际的工作效果
 
我最近写了一个脚本,用来从我们的CI/CD管道中提取数据并上传到数据湖中。在ChatGPT的帮助下,原本需要我那些生疏的Python技能花费八到十小时的工作,最终只用了不到两小时——效率提高了80%!只要我不要求每次的答案都完全相同,并且仔细检查它的输出,ChatGPT就是我日常工作中值得信赖的伙伴。
 
GenAI在帮助我进行头脑风暴、为我提供教程或快速学习一个非常具体的主题,以及起草一封困难的电子邮件时非常擅长。未来这些方面可能会有些微的改进,并在未来几年作为我能力的延伸发挥作用。对我来说,这已经足够好,并且也为投入大量精力开发这些模型提供了合理的理由。
 
结论
 
虽然GenAI可以帮助完成一些有限的任务,但它并不值得我们重新评估人类本质,进而导致数万亿美元的投入。那些在AI方面运用得最好的公司,往往是那些自然处理灰色地带的公司——比如Grammarly或JetBrains。这些产品非常有用,因为它们运作的环境中,人们自然会交叉检查答案,或者那里本来就有多条通向解决方案的路径。
 
我认为,我们在大型语言模型上的投资——无论是时间、金钱、人力、能源,还是无尽的期望——已经远远超过了我们可能获得的回报。这是因为“腐朽经济”和“增长至上”的心态,使我们无法将GenAI定位为一个相当出色的工具,用来提高我们30%的生产力。在一个公正的世界里,这已经足够好了,足以围绕它构建一个市场。
 
企业网D1net(www.d1net.com):
 
国内主流的to B IT门户,旗下运营国内最大的甲方CIO专家库和智力输出及社交平台-信众智(www.cioall.com)。旗下运营19个IT行业公众号(微信搜索D1net即可关注)。
 
版权声明:本文为企业网D1Net编译,转载需在文章开头注明出处为:企业网D1Net,如果不注明出处,企业网D1Net将保留追究其法律责任的权利。

链接已复制,快去分享吧

企业网版权所有©2010-2024 京ICP备09108050号-6京公网安备 11010502049343号