然而，官方都很少谈及这些聊天机器人的运营成本，路透社近日采访了Alphabet的主席John Hennessy，他表示，使用具有大型语言模型的聊天机器人的成本可能是普通搜索的10倍。
IT之家注意到，早在2022年12月，就在ChatGPT推出后，OpenAI的首席执行官Sam Altman在Twitter上表示，“计算成本令人瞠目结舌”。这也是其在2月初推出ChatGPT Plus的部分原因，用户可以以每月20美元的价格获得更多的功能和更快的回答速度。
摩根士丹利的一份报告显示，2022年在谷歌进行一次搜索时，估计谷歌的成本为五分之一美分。然而，如果像Bard这样的聊天机器人人工智能被投入使用，谷歌的搜索成本在2024年可能会增加60亿美元。这是假设聊天机器人处理谷歌一半的搜索，每个搜索答案有50个单词。
当然，成本更高的原因是，需要更多的计算力来生成所有这些来自聊天机器人AI的答案，这也意味着保持这些服务器工作的电力成本更高。
那么，如何才能降低成本呢？要么使这些聊天机器人将变得更有效率，从而降低运营成本，另一个解决方案是，谷歌和微软可以在聊天机器人的回答中植入广告链接，带来收入，补偿这些服务器的运行成本，微软已经在测试这个方案了。还有一个解决方案是提供订阅服务，ChatGPT已经提供了，不过这种选择可能是谷歌和微软的最后手段。
