【模型】模型id,可填写值见此文档 Models - OpenAI API 中的 MODEL NAME ,注意要和【端点 (ENDPOINT)】参数相匹配。
【top_p】一种替代温度采样的方法叫做核心采样,在其中,模型会考虑概率质量函数(PMF)中前 top_p 的标记结果。因此,0.1 表示选择概率质量为前 10% 的结果。
我们建议仅修改 【温度】和【top_p】其中一个参数,而不是同时修改两个参数。
英文原文:An alternative to sampling with temperature, called nucleus sampling, where the model considers the results of the tokens with top_p probability mass. So 0.1 means only the tokens comprising the top 10% probability mass are considered.
We generally recommend altering this or
temperature
but not both.
【API网址】自定义API网址。如果是 OpenAI 的第三方 API ,填写的网址格式类似:https://api.openai.com,后面无需添加表示 端点 (ENDPOINT) 的后缀,模块内会自动根据上方的【端点】参数进行添加。