这种新出现的现象被称为“doomscrolling(过度提示)”，与“doomscrolling(指盲目滚动智能手机或电脑屏幕浏览大量负面的新闻报道、社交媒体帖子或其他网络分享内容)”类似——后者指人们在社交媒体或负面新闻上无法停下刷屏。但两者影响不同：doomscrolling或许只是浪费晚餐到睡前的几个小时，让人更悲观，而doomprompting则可能让企业付出高昂代价，员工耗费大量时间与资源，只为“打磨”AI的输出。

对话循环的设计陷阱

过度“折腾”IT系统或代码并不新鲜，但AI带来了新的挑战。一些专家表示，部分LLM的设计似乎天然促使用户陷入持久的对话循环，答案往往会引出下一个提示。

AI安全开发公司Jozu的CEO兼联合创始人Brad Micklea指出，像ChatGPT这样的AI在回答提示时，经常会建议下一步该怎么做。

“从好的方面看，这只是为了在有限信息下改进回复，但更糟的情况是，它可能是为了让用户上瘾。”他说，“用户可以无视这些建议，而且通常应该无视，但就像doomscrolling一样，这比放弃要难得多。”

智能体测试服务商Recall的CTO兼联合创始人Carson Farmer补充说，这个问题在IT团队中更严重，因为很多工程师天生爱“折腾”。

“单个工程师给AI下指令时，很快就能得到不错的结果，”他表示，“然后你会想：‘这已经挺好，但我肯定能做到完美。’结果就陷入经典的沉没成本谬误——工程师会想，‘我已经花这么多时间提示了，总能把这个坑挖出来。’”

如果项目一开始没有清晰定义什么是“好结果”，问题就更明显。

“不了解最终目标的员工会一直兜圈子，不知道该何时收手，”Farmer说，“完美是‘好’的敌人，而LLM让我们觉得只要再微调最后一个提示，就能达成完美。”

“过度提示”的两种形态

观察者发现，doomprompting主要有两种：

第一种是个人与LLM或其他AI工具的交互，这可能发生在非工作场景，也可能在工作时间内，比如员工反复调整AI生成的邮件、代码或研究查询结果。

Salesforce AI执行副总裁Jayesh Govindarajan指出，第二种类型正在伴随AI智能体的采用而出现：IT团队不断微调智能体，以寻找输出的细微改进。

随着智能体日益复杂，IT团队会有持续追求更佳结果的诱惑。他承认，在对AI输出保持健康怀疑与认定“已经够好”之间，往往只有一线之隔。

“在第一代生成式AI服务和系统中，我们讲究的是写出正确的提示，让系统在各种情境下生成理想结果，”他说，“后来自主式AI浪潮兴起，我们把原本用来写邮件的技术升级，用于编排更复杂的行动。”

Govindarajan见过一些IT团队在不断增加指令的过程中陷入“doom loop”，想通过叠加指令优化输出。“所谓doomprompting，就是不断下达指令，希望它们能发挥作用，但随着指令越来越多、甚至相互矛盾，最终牺牲了系统的整体智能。”

需要清晰目标与边界

与Govindarajan类似，Recall的Farmer也看到，对AI输出的合理怀疑与无休止修正之间存在张力。

他认为，解决之道是在项目前期设定明确预期和防护栏，让IT团队能识别“足够好”的结果。

Jozu的Micklea补充说，一份强有力的AI项目需求文档，应清晰说明目标受众、项目目标、约束条件以及“成功”的定义。

“如果在没有清晰计划、也不理解任务完成标准的情况下使用AI，就更容易被ChatGPT的后续建议带偏，”他说，“要记住，ChatGPT的建议并不了解你的最终目标，它只是多个逻辑上可行的下一步之一。”

Farmer的团队也曾尝试让多个智能体同时解决同一问题，类似“适者生存”的实验。

“与其陷入doomprompting，不如让五个智能体一起处理，再合并结果挑出最佳方案，”他建议，“既然无论如何都会消耗算力代币，不如用节省时间的方式。”

他还建议IT团队把智能体当作初级员工对待：“给它们明确的目标和约束，让它们自行完成任务，再回过头评估结果。不要让工程经理参与每一步，否则只会导致次优结果和doomprompting。”

企业网D1net(www.d1net.com)：

国内头部to B IT门户，旗下运营国内最大的甲方CIO专家库和智力输出及社交平台-信众智(www.cioall.com)。旗下运营19个IT行业公众号(微信搜索D1net即可关注)。

版权声明：本文为企业网D1Net编译，转载需在文章开头注明出处为：企业网D1Net，如果不注明出处，企业网D1Net将保留追究其法律责任的权利。