当前位置：首页 » AI答疑

如何实现Gemini API响应内容的实时流式传输效果？

2025-08-21

283

流式技术实现

要启用类似ChatGPT的打字机效果输出，需：

请求参数配置：在JSON请求体中添加"stream": true字段
客户端处理：使用EventSource或Fetch API的流式读取接口，示例代码：
fetch('/v1/chat/completions', { method: 'POST', headers: { 'Content-Type': 'application/json' }, body: JSON.stringify({stream: true, messages: [...]}) }).then(async res => { const reader = res.body.getReader() while(true) { const {done, value} = await reader.read() if(done) break // 处理分块数据 } })
服务端优化：启动时避免使用--log file参数（会增加I/O延迟）

技术原理：项目内部使用SSE(Server-Sent Events)协议，每个数据块包含data: [JSON]nn格式的增量内容。