GPT-3.5Turbo推出微调功能打造专属ChatGPT聊天机器人

干货分享7个月前发布 Youzhizhan
1,432 0


OpenAI在一篇博客文章中写道:”自GPT-3.5Turbo发布以来,开发人员和公司都要求能够定制模型,为用户创造独特和差异化的体验。此更新使开发人员能够自定义更适合其用例的模型,并大规模运行这些自定义模型。”

GPT-3.5Turbo推出微调功能打造专属ChatGPT聊天机器人

8月23日,OpenAI在官网宣布将推出GPT-3.5Turbo微调功能并更新API,让企业和开发者可以利用自己的数据,基于业务用例构建专属的ChatGPT。

OpenAI声称,这样的定制模型可以满足或超过GPT-4在某些任务上的能力。该公司还表示,gpt-4的微调功能将于今年秋季推出。

OpenAI在一篇博客文章中写道:”自GPT-3.5Turbo发布以来,开发人员和公司都要求能够定制模型,为用户创造独特和差异化的体验。此更新使开发人员能够自定义更适合其用例的模型,并大规模运行这些自定义模型。”

通过微调,通过OpenAI的API使用GPT-3.5Turbo的公司可以使模型更好地遵循说明,例如使其始终以给定的语言响应。或者,他们可以提高模型一致格式化响应的能力(例如,完成代码片段),并磨练模型输出的”感觉”,例如其色调,以便更好地贴合品牌。

此外,微调使OpenAI客户能够缩短文本提示词,以加快API调用并降低成本。OpenAI在一篇博客文章中声称:”早期的测试人员通过微调模型本身的指令,将提示字大小减少了90%。”

目前,微调需要准备数据,上传必要的文件,并通过OpenAI的API创建微调作业。该公司表示,所有微调数据都必须通过”审计”API和GPT-4支持的审计系统,看看它是否与OpenAI的安全标准相冲突。但OpenAI计划在未来推出微调UI,其中包括一个仪表板,用于检查正在进行的微调工作负载的状态。

微调的成本如下:

  • 培训:0.008美元/1k令牌
  • 使用输入:0.012美元/1k令牌
  • 使用输出:0.016美元/1k令牌

OpenAI表示,包含100,000个令牌(约75,000字)的训练文件GPT-3.5-turbo的微调工作将花费约22.40美元(IT之家注:目前约为18元)。

此外,OpenAI今天提供了两个更新的GPT-3基本型号(babbag-002和davinci-002),也可以进行微调以支持分页和”更多扩展性。”正如先前宣布的那样,OpenAI计划在2024年1月4日退役原始的GPT-3基本型号。

OpenAI表示,对GPT-4的微调支持(与GPT-3.5不同,GPT-4可以理解文本以外的图像)将于今年秋季晚些时候发布,但没有提供除此之外的具体信息。

[ad]
© 版权声明

相关文章

暂无评论

您必须登录才能参与评论!
立即登录
暂无评论...