Assistants API v2 新特性
我们宣布了 Assistants API 的各种新特性和改进,并将我们的 Beta 版本迁移到新的 API 版本 OpenAI-Beta: assistants=v2
。以下是新特性:
- 改进的检索工具
file_search
:我们发布了一个新的检索工具file_search
,它可以为每个助手处理最多 10,000 个文件,比以前增加了 500 倍。它更快,支持并行查询,并具有增强的排名和查询重写功能。 - 向量存储
vector_store
:我们在 API 中引入了vector_store
对象。一旦文件添加到向量存储中,它将自动解析、分块和嵌入,准备好进行搜索。向量存储可以在助手和线程之间使用,简化了文件管理和计费。 - 令牌使用控制:您现在可以在 Assistants API 中控制运行使用的最大令牌数,以便管理令牌使用成本。您还可以设置在每个运行中使用的先前/最近消息的数量限制。
- 工具选择参数
tool_choice
:我们已经添加了对tool_choice
参数的支持,它可以用于强制在特定运行中使用特定工具(例如file_search
、code_interpreter
或function
)。 - 自定义对话历史:您现在可以创建具有角色
assistant
的消息,以在线程中创建自定义对话历史。 - 模型配置参数:助手和运行对象现在支持流行的模型配置参数,如
temperature
、response_format
(JSON 模式)和top_p
。 - ** Fine-tuned 模型**:您现在可以在 Assistants API 中使用 Fine-tuned 模型。目前仅支持
gpt-3.5-turbo-0125
的 Fine-tuned 版本。 - 流式传输:Assistants API 现在支持流式传输。
- SDK 帮助程序:我们已经向我们的 Node 和 Python SDK 添加了几个流式和轮询帮助程序。
有关如何将工具使用迁移到 Assistants API 的最新版本的详细信息,请参阅我们的迁移指南。