大模型流式前端:分片解析、取消和 Markdown 安全要分层

📅 2026/8/15 15:46:43
大模型流式前端:分片解析、取消和 Markdown 安全要分层
大模型流式前端分片解析、取消和 Markdown 安全要分层流式响应到达时数据块不一定是完整 UTF-8 字符、JSON 事件或 Markdown 节点。直接把每个 chunk 塞进渲染器容易闪烁、丢字符或提前解释不完整语法。三层状态传输层处理 SSE 或流协议和取消消息层维护连接中、接收、完成、失败状态渲染层只消费已经组装的文本。新请求开始时取消旧请求并用消息标识阻止迟到分片覆盖当前内容。Markdown 默认不信任原始 HTML。链接协议、图片来源和代码复制分别限制服务端工具结果也不能绕过清理。验证不稳定网络测试分片切在多字节字符中间、事件跨块、用户取消、断线重连和组件卸载。检查 reader、AbortController 与监听器都释放。流式体验好不好不只看首字出现快还要看状态是否一直正确。