共 2 篇文章
智能体智能体Prompt评测集Agent评估LLM-as-a-Judge
Agent 评估实践：从"改了不敢发"到"发布有据可依"
AliExpress 技术分享 Agent 评估落地实践，破解「改了不敢发」。痛点根源是 Agent 不是函数：相同输入未必产生相同输出、对错没有唯一判据，所以传统单测前提被同时打破。文章前半梳理业界共识——评测集从真实失败案例挑 20–50 个简单任务起步（越晚建越难）、LLM-as-a-Judge 有局限、只看结果不够；后半讲落地：框架选型与三模块架构，并复盘三个坑——一次抽样绕过了 CI 卡口、评测集自身没填对致误判、同一数据集四次跑出四个分数。结论：先定契约再定指标、平台管执行业务管判分、评估体系自己会坏且坏得安静。
2026-09-2215000
AI安全与治理AI安全Harness代码质量安全DevOps
AI工程化防翻车指南
腾讯云开发者给出的 Agent 工程化护栏：模型能力越强，连接模型、工具与执行环境的 Harness 越是真的安全边界。事前用 OS 沙箱、凭证不落主机、默认拒绝白名单、输入净化与双向脱敏锁死攻击面；事中用 pre-dispatch 校验、按声明授权、每类循环≤3 的成本包络、红黄绿三色卡与哨兵熔断掐断跑偏；事后用质量门与安全门 AND、角色隔离评审、全链审计和自迭代兜底。
2026-10-221000