读完就能用的 AI 知识文章

“推理模型” 标签下的文档

共 5 篇文章

大模型LLM推理模型大模型LLM上下文缓存

LLM 为什么缓存 K 和 V,却通常不缓存 Q?

一篇把 KV Cache 讲透的科普:为什么 Transformer 解码时要缓存 K 和 V,却通常不缓存 Q?核心在于注意力的工作方式——每个新 token 会生成自己的 Q 去查询历史,而历史各位置的 K/V 在生成后就已经固定、可被后续所有 token 复用;Q 是"当前这一刻的查询",用完即弃,没有保留价值。

2026-09-1413000
推理模型推理模型大模型实测GPT-5.6Sol

一文读懂 GPT-5.6 Sol:核心能力解读 + 用户实测汇总

解读 GPT-5.6 Sol 旗舰(2026-06-26 预览):分 Sol/Terra/Luna 三档,新增 max 与 ultra 推理档,Terminal-Bench 2.1 达 88.8%(Ultra 91.9%),强于 agentic coding、生物与网安;但访问受限,仅 API 与 Codex 受信任伙伴可用。

2026-08-3111000
模型评测推理模型大模型实测模型推理模型评测

Karpathy 刚发了一个帖子,怎么判断一个新模型到底行不行?

针对炫酷 Demo 越来越难以反映模型真实水平的痛点,梳理 Karpathy 的开放任务实验:将《指环王》第一段文字交给 Opus 5,以约 100 万 token 预算(约 10 美元)让它用 Three.js 构建三维世界,两小时写出 5500 行代码;考察长程工作、任务拆解、跨领域协调与工作耐力,指出模型自我验证能力落后于生成能力,提出更贴近真实工作的评测思路。

2026-09-0910000
大模型LLM推理模型上下文工程大模型OpenAI官方指南

GPT-6 这样用更顺手:OpenAI 官方指南已经讲明白了

解读 OpenAI《Using GPT-6 Astra》官方指南:从能力、成本、协作认识模型;涵盖异步工具调用、中途接收新指令、调整推理强度保留缓存、行为偏离监测等新功能,及主动推进、指令遵循、写作风格、子代理分工等行为调整;并给出迁移配置核对要点:模型名 gpt-6-astra、工具调用需 Responses API、移除 temperature/top_p、缓存参数 ttl=30m。

2026-09-109000
大模型LLM推理模型DeepSeek大模型LLM模型推理

图解 KV Cache——DS V4.1-Flash的制胜秘密

一篇 KV Cache 图解长文,以 DeepSeek V4.1-Flash 为例,拆解"单 token KV 从 V1 的 380KB 压到 890 字节(437 倍)"是怎么做到的。

2026-09-148000
知识库 | 凡哥 AI 知识库