GPT-3.5 Turbo 微调和 API 更新

Admin 2023-8-26 224 8/26

开发人员现在可以使用自己的数据,根据自己的使用情况定制 GPT-3.5 Turbo。

GPT-3.5 Turbo 的微调功能现已推出,GPT-4 的微调功能将于今年秋季推出。这一更新使开发人员能够定制更适合其使用情况的模型,并大规模运行这些定制模型。早期测试表明,GPT-3.5 Turbo 的微调版本在某些较窄的任务上可以与基础 GPT-4 级功能相媲美,甚至更胜一筹。与我们所有的应用程序接口一样,进出微调应用程序接口的数据均归客户所有,OpenAI 或任何其他组织都不会将其用于训练其他模型。

微调用例
自 GPT-3.5 Turbo 发布以来,开发人员和企业一直要求能够定制模型,以便为用户创造独特的差异化体验。通过此次发布,开发人员现在可以进行监督微调,使该模型更好地满足他们的用例需求。

在我们的私人测试版中,微调客户已经能够在常见的使用案例中显著提高模型性能,例如

提高可转向性: 通过微调,企业可以使模型更好地遵循指令,例如使输出简明扼要或始终以特定语言做出响应。例如,开发人员可以使用微调功能确保模型在提示使用德语时始终以德语作出响应。
可靠的输出格式: 微调可提高模型一致格式化响应的能力--这对于需要特定响应格式的应用程序(如代码补全或 API 调用组合)来说至关重要。开发人员可以使用微调功能,更可靠地将用户提示转换为高质量的 JSON 代码段,供自己的系统使用。
自定义音调: 微调是一种很好的方法,可以改进模型输出的质感,例如语气,使其更符合企业的品牌声音。具有可识别品牌声音的企业可以通过微调使模型与其语气更加一致。
除了提高性能外,微调还能让企业缩短提示时间,同时确保相似的性能。 使用 GPT-3.5-Turbo 进行微调后,还可以处理 4k 代币--比我们以前的微调型号多一倍。通过对模型本身的指令进行微调,早期测试者已经将提示符大小减少了 90%,从而加快了每次 API 调用并降低了成本。

当微调与其他技术(如提示工程、信息检索和函数调用)相结合时,微调的作用最为强大。查看我们的微调指南,了解更多信息。今年秋季晚些时候,我们将为微调功能调用和 gpt-3.5-turbo-16k 提供支持。

- THE END -
最后修改:2023年8月26日

非特殊说明,本博所有文章均为博主原创。