百信 AI Agent · 技术与实践
技术文章
从知识与数据到系统与业务,记录企业智能体落地中的具体问题、技术方法与实践思考。

企业私有化大模型推理网关实战:多模型统一纳管、智能动态路由与租户配额流控
针对企业在推进大模型与智能体私有化落地时面临的多推理后端异构混杂、GPU 显存争抢导致服务雪崩、单点故障无容灾以及缺乏多租户计量流控等痛点,深入剖析企业级大模型推理网关(LLM Gateway)的架构设计,系统探讨统一 OpenAI 兼容接口封装、基于上下文长度与复杂度的动态语义路由、故障探测与自愈切流、分布式 Token 桶多租户流控以及端到端流式推理审计的完整工程落地实践。

企业智能体场景准入评估实战:业务价值密度、容错空间与系统准备度的量化筛选模型
针对企业推进 AI Agent 时普遍面临的陷入“试点泥潭”、大批 POC 无法投产及伪需求泛滥等痛点,深入剖析企业智能体场景准入的五维量化评估模型,系统探讨业务价值密度测算、容错空间与人工兜底成本底线、数据与 API 就绪度红线、四象限决策评分卡及动态退场机制。

企业智能体向下游系统传递员工身份实战:身份代持、Token 交换与权限隔离
针对企业落地 AI Agent 对接 ERP、OA、CRM 等业务系统时普遍存在的混用后台全局超级账号、破坏数据行级权限与审计合规的顽疾,深入解析 RFC 8693 OAuth 2.0 Token Exchange 与 On-Behalf-Of(OBO)委托机制,探讨短期范围收窄、老旧系统身份代理映射、长流程凭证续期与链路审计防篡改的完整落地方案。

AI Agent 对接企业消息队列:事件驱动架构下的削峰、防丢与消费幂等实战
针对企业智能体对接 ERP、MES、OA 等核心系统时面临的高频业务事件冲击、大模型慢推理与消息队列快消费的吞吐失配矛盾,系统剖析基于 Kafka/RabbitMQ 的事件驱动解耦架构,深入探讨心跳保活与反压削峰、毒丸消息死信隔离以及消费端分布式幂等兜底的完整工程实践。

AI Agent 间接提示词注入防御实战:非受信数据隔离、双模型校验与工具执行护栏
针对企业在推进智能体对接知识库、邮件与业务系统时面临的间接提示词注入(Indirect Prompt Injection)与越狱攻击威胁,深入解析指令与数据未分离的本质机理,提出控制面与数据面解耦、双模型沙箱隔离、动态 Nonce 标记与工具调用严格执行护栏的完整纵深防御体系。

企业知识库答不准全链路排查指南:分块丢失、语义召回偏离、重排序截断与合成幻觉的逐层定位
针对企业在推进大模型与智能体落地时高频遭遇的“知识库答不准、答非所问、甚至编造答案”问题,系统剖析从文档摄入解析、分块切分、多路混合召回、Cross-Encoder 重排序到大模型生成合成的全链路排查流水线,给出清晰的指标定界树与工程自愈规范。
没有找到匹配的文章
试试更短的关键词,或浏览全部文章。