OpenAI公司首席执行官承认ChatGPT存在风险,现在怎么办?

责任编辑:cres

作者:Sharon Goldman

2022-12-16 10:34:30

来源:企业网D1Net

原创

OpenAI公司首席执行官Sam Altman表示:ChatGPT的功能虽然非常有限,但在某些方面做得很好,足以给人留下一种令人误解的伟大印象。但现在依靠它做任何重要的事情都是错误的。在稳健性和真实性方面,我们还有很多工作要做。

在上周末,OpenAI公司首席执行官Sam Altman突然加入了关于ChatGPT(该公司最近发布的对话文本生成模型) 在Twitter上的争论,并给出了令人惊讶的警告。
 
他在Twitter上写道:“ChatGPT的功能虽然非常有限,但在某些方面做得很好,足以给人留下一种令人误解的伟大印象。但现在依靠它做任何重要的事情都是错误的。这是一种进步的预演;在稳健性和真实性方面,我们还有很多工作要做。”
 
Altman最后在该帖子中写道,“ChatGPT是一个有趣的创意灵感。太棒了!对事实查询的依赖并不是个好主意。我们将努力改进!”
 

 
OpenAI公司努力应对ChatGPT炒作
 
那么,是什么促使Altman发表上述言论?毕竟,当OpenAI公司在11月30日发布ChatGPT时,虽然他警告说这是一个早期的演示和研究版本,在功能上有很多限制,但他也对未来的应用进行了一些宣传和炒作。他在Twitter上写道,“很快,你就能拥有一个有用的助手,与你交谈,回答你的问题,并给出建议。随后你将拥有自动执行任务的工具,最终受益匪浅,因为它会为你发现新的知识。”
 
Altman最近发出的警告可能并不是对上周AI Beat专栏的回应。更有可能的是,是过去10天来的大规模炒作和铺天盖地批评的回应。到目前为止,OpenAI公司的ChatGPT被支持者描述为一种“轰动”和“最具颠覆性的技术”,但也有批评者指出,“ChatGPT有点像你在酒吧遇到的那个喝醉的女孩,她一直在喋喋不休地说话,有一些是真话,有一些是废话,但你肯定不会想把她带回家去见你的父母。”
 
也许,最值得注意的是,Altman看到了OpenAI公司的研究演示对主流的冲击。《纽约时报》、《华尔街日报》、《华盛顿邮报》、《大西洋月刊》甚至《福克斯天气》都在过去几天里报道了这一事件。
 
ChatGPT现在发生了什么?
 
目前看来,ChatGPT一直得到行业人士的关注。没有任何迹象表明OpenAI的受欢迎程度正在下降:事实上,OpenAI公司似乎在满足请求方面遇到了困难。据报道,一些人收到了这样的通知:“哇!你可能得等一段时间。目前收到的请求多得让我们无法接受。”
 
但尽管围绕ChatGPT的讨论仍在继续,从那些指责谷歌公司在大型语言模型方面落后的用户,到对大学论文未来的担忧,似乎开发这些模型的开发者都在保持低调,意识到未来出现的激烈竞争。
 
对于OpenAI公司来说,该公司显然正在利用这段广泛的ChatGPT社区实验期来获得RLHF(从人类反馈中强化学习),以用于备受期待的GPT-4的未来版本。
 
当然,虽然StabilityAI公司首席执行官Emad Mostaque说得很清楚,但正是这么说,代表了硬币的另一面:昼夜不停地工作以开发ChatGPT的开源变体的开发人员。

 
Stable Diffusion公司的创建者之一LAION表示,他们已经在积极地研究这个问题。他说,“所以,我们需要等待。同时,我保证上面的文字都不是ChatGPT写的,至少现在是这样。”
 
关于企业网D1net(www.d1net.com):
 
国内主流的to B IT门户,同时在运营国内最大的甲方CIO专家库和智力输出及社交平台-信众智(www.cioall.com)。同时运营18个IT行业公众号(微信搜索D1net即可关注)。
 
版权声明:本文为企业网D1Net编译,转载需注明出处为:企业网D1Net,如果不注明出处,企业网D1Net将保留追究其法律责任的权利。

链接已复制,快去分享吧

企业网版权所有©2010-2025 京ICP备09108050号-6京公网安备 11010502049343号