#AI 开发
共 48 篇文章
OpenAI API报429 insufficient_quota,重试为何仍然失败
读取429正文与error.code,区分余额、支出、使用上限与速率,再检查SDK和外层队列的重试。
OpenAI嵌套schema报additionalProperties缺失,检查SDK与$ref
沿错误context检查最终schema,区分旧SDK内联引用遗漏与手写对象限制,并核对1.59.8正式修复。
OpenAI Batch显示completed,按custom_id核对output和error
同时读取output与error,按唯一custom_id恢复对应关系,将HTTP失败、缺失记录和内容解析分别处理。
MCP的SSE连接成功,POST却报406:检查endpoint路由
GET事件流成功后,顺着endpoint核对实际POST路径,区分旧SSE路由与Streamable HTTP内容协商。
Transformers 的 generate 结果为什么包含输入提示词
decoder-only 的 generate 返回输入加新增 token。按实际 input_ids 张量宽度裁剪,区分左补齐批次、结构化返回、pipeline 与 encoder-decoder。
ollama list 有模型,API 为什么仍报 model not found
模型存在于某个 Ollama 实例,不等于当前 API 服务有它。对齐请求地址、model:tag、服务账号与 OLLAMA_MODELS,区分模型 404 和路径 404。
SGLang 缓存回载报错
SGLang 旧版在 EAGLE 与 LMCache MP 模式下,外部 KV 回载后报 pool memory leak detected。核对页大小、重复计数路径及统一缓存实现的版本边界。
Hugging Face 模型已获授权,下载为什么仍报 401 或 403
网页批准访问与程序实际使用的令牌是两项检查。核对报错仓库、令牌所属账号、fine-grained 权限及 HF_TOKEN 覆盖,避免把 401/403 都当成未登录。
Ollama 本机能访问,远程请求却报 Connection refused
区分 Ollama 服务监听、客户端目标与容器网络。优先通过 SSH 隧道连接本机监听,再按实际部署检查环境变量,CORS 不会修复 TCP 拒绝连接。
MCP 旧会话收到 404,Python 客户端报 Session terminated
Python mcp 1.22.0 在旧会话请求收到 404 后报 Session terminated。区分路由错误与会话失效,结束旧连接后重新初始化,并限制工具动作重放。
Chroma 报 Embedding dimension 不匹配
Chroma 的请求向量与集合维度不一致,先核对模型、客户端和集合。区分 0.6.3 加载时的函数回退与当前配置持久化行为,保留旧索引后再迁移。
LangGraph 恢复 interrupt 后,日志和前置操作又执行了一遍
人审恢复会重跑被中断节点的前置代码。拆分准备与人审节点,核对持久化、业务幂等和权限,避免只看最终状态就漏掉重复操作。
AutoGen 重载终止条件后,用户消息也触发了 TERMINATE
AutoGen 0.7.5 保存再加载 TextMentionTermination 时,sources 过滤可能丢失。对照配置往返,显式构造来源规则,并区分 reset 与会话状态。
LangGraph Agent 反复调用 save_memory,最后报 GraphRecursionError
检索已有结果,Agent 却反复调用 save_memory。按工具请求、结果与图路由判断循环,再设置业务上限和真正的结束路径。
PEFT 报 Target modules not found,LoRA 应该挂到哪一层
先读取真实模块名称,再区分 target_modules 的字符串正则与列表匹配。说明模型结构、层筛选和训练参数验收,避免套用其他模型的 q_proj 名称。
调用 Ollama 的 /api/embeddings,为什么返回空向量
Ollama 的 embed 与 embeddings 使用不同路径、输入字段和向量形状。返回空数组时核对实际请求,区分新旧 SDK 方法与模型迁移。
开了梯度检查点,为什么 Transformers 把 use_cache 关了
区分训练时的激活重算与生成时的 KV cache。按模型实现关闭训练缓存,推理前检查生成配置与梯度模式,不把兼容性警告当训练失败。


