Chat Completion块对象

Chat Completion对象

本章完

学习其他章节 API参考 端点 Chat

---

表示模型根据提供的输入返回的聊天完成响应的流块。

{"id":"chatcmpl-123","object":"chat.completion.chunk","created":1694268190,"model":"gpt-3.5-turbo-0125", "system_fingerprint": "fp_44709d6fcb", "choices":[{"index":0,"delta":{"role":"assistant","content":""},"logprobs":null,"finish_reason":null}]}

{"id":"chatcmpl-123","object":"chat.completion.chunk","created":1694268190,"model":"gpt-3.5-turbo-0125", "system_fingerprint": "fp_44709d6fcb", "choices":[{"index":0,"delta":{"content":"Hello"},"logprobs":null,"finish_reason":null}]}

....

{"id":"chatcmpl-123","object":"chat.completion.chunk","created":1694268190,"model":"gpt-3.5-turbo-0125", "system_fingerprint": "fp_44709d6fcb", "choices":[{"index":0,"delta":{},"logprobs":null,"finish_reason":"stop"}]}

id

string

一个唯一标识聊天完成的标识符。每个块具有相同的ID。

choices

array

聊天完成选择的列表。如果 n 大于 1，则可以包含多个元素。如果您设置 stream_options: {"include_usage": true}，则对于最后一个块可能为空。

delta

object

由流模型响应生成的聊天完成增量。

content

string 或 null

块消息的内容。

function_call (已弃用)

object

已弃用，并被 tool_calls 替代。模型生成的应调用的函数名称和参数。

arguments

string

模型以JSON格式生成的调用函数的参数。请注意，模型并不总是生成有效的JSON，并且可能会幻觉出未定义的参数。在调用函数之前，请在代码中验证参数。

name

string

要调用的函数的名称。

tool_calls

array

index

integer

id

string

工具调用的ID。

type

string

工具的类型。目前，仅支持函数。

function

object

name

string

要调用的函数的名称。

arguments

string

模型以JSON格式生成的调用函数的参数。请注意，模型并不总是生成有效的JSON，并且可能会幻觉出未定义的参数。在调用函数之前，请在代码中验证参数。

role

string

此消息作者的角色。

logprobs

object 或 null

选择的日志概率信息。

content

array 或 null

包含日志概率信息的消息内容令牌列表。

token

string

令牌。

logprob

number

如果该令牌在前20个最可能的令牌中，则为该令牌的日志概率。否则，值为-9999.0，以表示该令牌非常不可能。

bytes

array 或 null

表示令牌的UTF-8字节表示的整数列表。在某些情况下，字符由多个令牌表示，并且必须组合其字节表示才能生成正确的文本表示。如果令牌没有字节表示，则可以为null。

top_logprobs

array

在此令牌位置最可能的令牌及其日志概率的列表。在极少数情况下，返回的 top_logprobs 可能少于请求的数量。

token

string

令牌。

logprob

number

如果该令牌在前20个最可能的令牌中，则为该令牌的日志概率。否则，值为-9999.0，以表示该令牌非常不可能。

bytes

array 或 null

表示令牌的UTF-8字节表示的整数列表。在某些情况下，字符由多个令牌表示，并且必须组合其字节表示才能生成正确的文本表示。如果令牌没有字节表示，则可以为null。

finish_reason

string 或 null

模型停止生成令牌的原因。如果模型达到自然停止点或提供的停止序列，则为 stop；如果达到请求中指定的最大令牌数，则为 length；如果由于内容过滤器的标记而省略内容，则为 content_filter；如果模型调用了工具，则为 tool_calls；如果模型调用了函数，则为 function_call（已弃用）。

index

integer

选择在选择列表中的索引。

created

integer

创建聊天完成的Unix时间戳（以秒为单位）。每个块具有相同的时间戳。

model

string

用于生成完成的模型。

service_tier

string 或 null

用于处理请求的服务层。如果请求中指定了 service_tier 参数，则仅包含此字段。

system_fingerprint

string

此指纹表示模型运行的后端配置。可以与 seed 请求参数结合使用，以了解可能影响确定性的后端更改。

object

string

对象类型，始终为 chat.completion.chunk。

usage

object

一个可选字段，只有在请求中设置 stream_options: {"include_usage": true} 时才会出现。如果存在，除了最后一个块之外，包含的值都为null，最后一个块包含整个请求的令牌使用统计信息。

completion_tokens

integer

生成的完成中的令牌数。

prompt_tokens

integer

提示中的令牌数。

total_tokens

integer

请求中使用的令牌总数（提示 + 完成）。

Chat Completion对象

本章完

学习其他章节 API参考 端点 Chat

---