大型语言模型（LLM）是一种能够处理自然语言的人工智能技术，它的“上下文窗口（co
ntext window）”相当于一个短期记忆，可以存储输入的内容或者聊天
机器人的对话内容。在语言模型中，增加上下文窗口大小已经成为一种技术竞赛，Anthropic公司最近宣布其Claude语言模型可以提供75000个token上下文窗口选项。此外，OpenAI也开发了一个32000个token的GPT-4版本，但尚未公开推出。
OpenAI刚刚推出了一个新的16000上下文窗口的gpt-3.5-turbo版本，名为“gpt-3.5-turbo-16k”，可以处理长度达到16000个token的输入，这意味着可以一次处理大约20页的文本，这对于需要模型处理和生成较大文本块的开发者来说是一个很大的提升。
除了这一变化之外，OpenAI还列出了至少四个其他主要的新功能：
在Chat Completions API中引入函数调用功能
GPT-4和gpt-3.5-turbo的改进版和“更易控（more steerable）”的版本
将“ada”嵌入模型的价格降低了75%
将gpt-3.5-turbo模型的输入token价格降低了25%
函数调用功能可以让开发者更容易地构建能够调用外部工具、将自然语言转换为外部API调用或进行数据库查询的聊天机器人。例如，它可以将“给Anya发邮件，看看她下周五是否想喝咖啡”这样的输入转换为“send_email(to:string,body:string)”这样的函数调用。尤其是，这个功能还可以让API用户更容易地生成JSON格式的输出，这是之前很难实现的。
关于“更易控”方面，这是一个指代如何让LLM按照你想要的方式行事的专业术语，OpenAI表示其新的“gpt-3.5-turbo-0613”模型将包含“通过系统消息更可靠地控制”的功能。系统消息是API中一种特殊的指令输入，可以告诉模型如何行事，例如“你是格林姆斯，你只谈论奶昔。”
除了功能上的改进之外，OpenAI还提供了相当大幅度的成本降低。值得注意的是，受欢迎的gpt-3.5-turbo模型的token价格降低了25%。这意味着开发者现在可以以每1000个token约0.0015美元、每1000个token约0.002美元的价格使用这个模型，相当于每美元可以处理大约700页文本。gpt-3.5-turbo-16k模型则定价为每1000个token 0.003美元、每1000个token 0.004美元。
此外IT之家注意到，OpenAI还将其“text-embedding-ada-002”嵌入模型的价格降低了75%。嵌入模型是一种让计算机理解单词和概念的技术，可以将自然语言转换为机器可以理解的数字语言，这对于搜索文本和推荐相关内容等任务很重要。
由于OpenAI不断更新其模型，旧的模型不会一直存在。今天，该公司还宣布开始淘汰一些早期版本的模型，包括gpt-3.5-turbo-0301和gpt-4-0314。该公司表示，开发者可以继续使用这些模型直至9月13日，之后这些旧模型将不再可用。值得注意的是，OpenAI的GPT-4 API仍然处于等待名单中，尚未完全开放。
