微信小程序接入 OpenAI:会话不连续、Key 暴露与接口失联排查
用一个微信小程序直连 OpenAI 接口做 ChatGPT 式对话时,最容易踩到三类问题:对话像问答不像聊天、Key 写在前端被盗刷、以及突然"接口挂了"。本文梳理这几类问题的成因,给出会话记忆、后端中转、错误码排查的具体做法,并分析 AI 绘画接入的现实选择与合规注意事项。
把一个 ChatGPT 式的对话功能塞进微信小程序,看起来是最短的路径:页面放个输入框,wx.request 直接打模型接口,回包渲染出来就完事。很多人第一次做就是这么干的,也确实能跑起来。
但跑通和能用之间隔着几道坎。最常见的反馈是三类:对话更像"一问一答"而不是聊天;用着用着接口突然不通了;以及一个容易被忽略、后果却最严重的问题——密钥被放在了前端。下面按这三条展开,最后再谈谈 AI 绘画接入该怎么选。
问题一:为什么对话像问答,不像聊天
对话接口本身是无状态的。服务端不记得你上一句说了什么,模型看到的永远只有这次请求里带过去的 messages 数组。如果小程序每次只发送用户当前这一句,模型自然只能就句论句,表现就是"问答机器人"而不是"聊天助手"。
修正思路很直接:把历史带上。具体做法有两种。
- 前端持有历史:本地维护一个
messages数组,每次把用户输入和模型回复都追加进去,下次请求整包发送。实现简单,但历史会随对话线性增长,token 消耗和延迟都会上升。 - 服务端持有历史:前端只传一个会话 ID,服务端按 ID 存取上下文。更安全,也方便做多端同步和清理。
不管选哪种,都要处理长度问题:
- 用滑动窗口,只保留最近若干轮对话;
- 更早的内容做一次摘要,压缩成一段 system 提示;
- 顶部固定一条 system 消息定义角色和风格,别让它被历史挤掉;
- 明确一个 token 预算,超出就截断,避免请求被上游直接拒绝。
问题二:前端直连接口,等于把钥匙挂在门上
小程序包是可以被解包查看的。任何写在前端的密钥,抓一次包或翻一次代码就能拿走,之后产生的调用都算在你账上。这类密钥泄露导致的额度被刷,在真实项目里并不罕见,而且往往发现得很晚。
正确结构是加一层自己的服务端:小程序只调用你自己的域名,密钥放在服务器的环境变量里,由服务端转发请求。附带的好处是,限流、登录校验、内容过滤、日志统计都有了统一的落点。
// 服务端示例(Node.js / Express):密钥只存在于服务器
app.post('/api/chat', async (req, res) => {
const { sessionId, message } = req.body;
const history = store.get(sessionId) ?? [];
const messages = [
{ role: 'system', content: '你是一个简洁的中文助手' },
...history.slice(-10), // 只带最近若干轮,控制 token
{ role: 'user', content: message }
];
const r = await fetch('https://api.openai.com/v1/chat/completions', {
method: 'POST',
headers: {
'Content-Type': 'application/json',
Authorization: `Bearer ${process.env.OPENAI_API_KEY}`
},
body: JSON.stringify({ model: process.env.MODEL, messages })
});
if (!r.ok) {
// 401 / 429 / 余额不足 要区分开,别统一报“服务异常”
return res.status(r.status).json({ error: await r.json() });
}
const data = await r.json();
const reply = data.choices[0].message.content;
store.set(sessionId, [
...history,
{ role: 'user', content: message },
{ role: 'assistant', content: reply }
]);
res.json({ reply });
});
另外提醒一个平台限制:小程序的网络请求要求 HTTPS,服务器域名还需要完成备案,不能在页面里随意直连第三方接口。这也是必须自建中转的现实原因之一,而不只是安全问题。
问题三:"接口挂了",绝大多数不是接口挂了
真实故障里,上游整体宕机的比例并不高,更常见的是账号侧的问题——比如试用额度用完之后没有及时充值或换 Key,表现就是所有请求突然全部失败。排查时不要只看"失败"两个字,按状态码走:
| 现象 | 常见原因 | 处理 |
|---|---|---|
| 401 / 403 | Key 失效、被删除、复制时带了空格、项目或组织不匹配 | 重新生成并核对配置 |
| 429 | 触发速率限制,或额度已耗尽 | 查看用量面板,确认余额与限流阈值 |
| 5xx | 上游短时波动 | 指数退避重试,别对 4xx 重试 |
| 超时 | 小程序请求超时设置偏短,或链路绕路 | 服务端设合理超时,前端做加载态与重试提示 |
工程上建议做三件事:服务端把上游错误翻译成可读文案返回,前端不要一律弹"网络错误";对余额和用量做定期巡检与告警;对同一个 Key 的调用做统一出口,方便随时替换。
如果后端服务本身需要长期在线、并且要稳定访问境外接口,可以把它放在网络环境更可控的机器上运行。比如整台托管在新加坡机房的独享 Mac,按月远程使用,长期挂着服务和定时任务比较省心,这属于可选方案之一,是否值得取决于你的调用量和运维意愿。
关于 AI 绘画:先分清"有官方接口"和"没有官方接口"
回到绘画需求。很多人第一反应是接 Midjourney,因为效果确实好。但需要先明确一个前提:它没有面向公众的官方 API。市面上所谓的接入,基本是第三方中转或对客户端做自动化,这类方式存在账号受限、服务随时中断、以及违反服务条款的风险,不适合作为商用产品的依赖。
比较稳妥的几条路线:
- 服务商官方图像接口:接入简单、有文档和配额管理,适合要上线、要稳定性的场景。具体模型与计费以各厂商官方文档为准。
- 开源自建文生图模型:数据不出内网、批量成本可控,但需要 GPU 资源和运维投入,出图质量取决于模型与调参。
- 人工产出 + 业务侧上传:量不大时最省事,运营在自己的工具里生成,后台上传成品,完全避开接口问题。
至于"哪个效果好",不同模型在写实、插画、中文语义理解上各有强弱,建议用你自己的真实需求做一轮小规模对比,而不是只看别人的样图。
上线前值得再确认的几件事
- 内容安全:生成式内容在小程序审核中通常要求配套文本与图片的检测过滤,具体规则以平台最新要求为准。
- 资质与备案:面向公众提供生成式 AI 服务涉及相应合规要求,不同地区与主体类型的口径不同,务必查阅官方最新说明,不要凭经验判断。
- 地域与账号合规:使用境外服务时要遵守其服务条款与当地法规,不要依赖共享账号或非正规渠道获取的额度,这类做法一旦被封,业务侧没有申诉空间。
- 成本可观测:按会话记录 token 消耗,设置日预算上限,避免被异常流量打穿。
- 降级方案:准备一个备用模型或静态兜底文案,主链路故障时至少还能给出提示。
小结
小程序做 AI 对话,难点不在界面,而在三件事:把会话历史认真管起来,让模型真的"记得"上下文;把密钥挪到服务端,别把额度交给运气;把错误码当成一等公民,出问题时能一眼看出是额度、限流还是网络。绘画接入则要先确认对方是否提供官方接口,再谈效果和成本。把这几步做扎实,再往上叠功能才不会反复返工。