Assistants API v2 新特性

我们宣布了 Assistants API 的各种新特性和改进,并将我们的 Beta 版本迁移到新的 API 版本 OpenAI-Beta: assistants=v2。以下是新特性:

  1. 改进的检索工具 file_search:我们发布了一个新的检索工具 file_search,它可以为每个助手处理最多 10,000 个文件,比以前增加了 500 倍。它更快,支持并行查询,并具有增强的排名和查询重写功能。
  2. 向量存储 vector_store:我们在 API 中引入了 vector_store 对象。一旦文件添加到向量存储中,它将自动解析、分块和嵌入,准备好进行搜索。向量存储可以在助手和线程之间使用,简化了文件管理和计费。
  3. 令牌使用控制:您现在可以在 Assistants API 中控制运行使用的最大令牌数,以便管理令牌使用成本。您还可以设置在每个运行中使用的先前/最近消息的数量限制。
  4. 工具选择参数 tool_choice:我们已经添加了对 tool_choice 参数的支持,它可以用于强制在特定运行中使用特定工具(例如 file_searchcode_interpreterfunction)。
  5. 自定义对话历史:您现在可以创建具有角色 assistant 的消息,以在线程中创建自定义对话历史。
  6. 模型配置参数:助手和运行对象现在支持流行的模型配置参数,如 temperatureresponse_format(JSON 模式)和 top_p
  7. ** Fine-tuned 模型**:您现在可以在 Assistants API 中使用 Fine-tuned 模型。目前仅支持 gpt-3.5-turbo-0125 的 Fine-tuned 版本。
  8. 流式传输:Assistants API 现在支持流式传输。
  9. SDK 帮助程序:我们已经向我们的 Node 和 Python SDK 添加了几个流式和轮询帮助程序。

有关如何将工具使用迁移到 Assistants API 的最新版本的详细信息,请参阅我们的迁移指南

Was this page helpful?