
比起今天大家追捧的 Anthropic 发布的Claude Fable 5 和 Claude Mythos 5 模型,我更关注Google 今天发布的这个模型...
虽然 Claude Fable 5很强大,但是模型能力已经超出了普通人能使用的范畴,而Google这个模型 直接推倒了“巴别塔”....
Google 今天发布了其实时语音翻译模型: Gemini 3.5 Live Translate ,能在70多种语言之间做到边听边译,同时保留说话人的语调、节奏和音高。

该模型基于Google 最新 的 Gemini 3.5 模型, 兼顾了Gemini 3.0 Pro的专业能力和 Gemini 3.0 Flash 的速度,能快速准确的完成一些复杂的任务。Google 将其优化为一个全新的实时翻译模型
Gemini 3.5 Live Translate 已同步登陆 Gemini Live API、Google Translate App 和 Google Meet。
核心更新一览:
• 支持70多种语言自动检测,不需要手动选语言
• 边听边译,不等说完才翻,全程只比说话人慢几秒
• 翻译语音保留原始说话人的语调、节奏和音高
• 自动滤除噪音,嘈杂环境也能用
• Google Meet 语言组合从之前的5种语言、仅限英语互译,扩展到70多种语言、2000多种组合
• Google Translate App 新增「听筒模式」(Android 独占),贴耳即听翻译
• 所有生成音频带 SynthID 水印,可检测 AI 生成内容
• 开发者可通过 Gemini Live API 和 Google AI Studio 直接调用

它到底做了什么
过去的翻译工具,不管是 Google Translate 的对话模式,还是各种会议翻译插件,基本都是「轮次制」的:你说完一整句,系统停顿,处理,再输出翻译,中间那段沉默就是在等上下文。
3.5 Live Translate 改了这个逻辑
它在你说话的同时持续生成翻译语音, 像同声传译一样跟着你走
模型内部在做一个持续的权衡:多等一会儿能拿到更多上下文、翻得更准,但等太久就跟不上说话人了。
它在两者之间动态调节,输出流畅的音频,全程只比说话人慢几秒。
视频来自 @swmansion
一个具体的画面: 你在巴塞罗那跟一个只说西班牙语的导游走街串巷,他在讲这栋楼的历史。你把手机贴到耳朵上,听筒里传出来的英文翻译几乎和他的西班牙语同步,语调起伏也跟着他走。他激动的时候翻译声音也快,他停下来想词的时候翻译也自然地缓一拍。

先搞清楚一件事:它不是 AI 助手,是翻译器
Google 的 Live API 现在有两种模式:普通的 Live Agent 和 Live Translate。
名字像,但用的是完全不同的架构。
| 维度 | Live Agent(普通模式) | Live Translate(翻译模式) |
|---|---|---|
| 模型角色 | 充当助理,能聆听、推理、采取行动 | 充当翻译器,像一个实时翻译流水线 |
| 交互方式 | 基于回合,依赖暂停和意图检测 | 连续流处理,边说边译不等轮次 |
| 工具和 Agent 能力 | 支持函数调用、Google 搜索、指令 | 不支持,纯翻译 |
| 输入模态 | 文本、音频、视频、图片 | 仅音频 |
| 配置复杂度 | 需要配置生成参数、语音、工具、系统指令 | 只需设 target_language_code 和几个开关 |

为什么只接受音频,不接受文本?
因为这个模型从底层就是一个端到端的语音到语音模型。它解决的核心问题是「在对方还没说完的时候就开始翻译并输出声音」。
音频是连续的流,每100毫秒一个块不断涌进来,没有明确的句子边界,模型要在这个流里实时判断说话人在说什么语言、句子说到哪里了、现在翻还是再等一下能翻得更准。这整套「边听边译」的连续流处理机制天然就是为音频设计的。
文本是离散的、完整的,不存在「说到一半要不要先翻」的问题,也不需要保留语调和节奏。
需要文本翻译的话,Google Translate 的文本 API 和 Gemini 文本模型已经能做了,没必要混进这个专为音频流优化的管线里。
三个关键能力
1. 自动语言检测
不需要提前告诉模型「我说的是中文,帮我翻成英文」。你直接说,它自己判断你在说什么语言,自动翻成目标语言。在多人多语言的场景下,比如一个会议里有人说日语、有人说法语、有人说中文,模型可以分别处理,不用每次手动切换。
2. 语音特征保留
这不是那种用固定机器人嗓音读翻译文本的模式。模型会尝试保留原始说话人的语调(intonation)、节奏(pacing)和音高(pitch)。你说得快它翻得也快,你强调某个词它也会在翻译语音中体现重音。
东南亚打车平台 Grab 正在测试这个模型,用于司机和乘客在接驾时的多语言通话。Grab 每月有超过1000万通语音电话通过平台拨出。
一个泰国司机和一个日本游客之间的电话,双方各说各的语言,模型在中间做实时双向翻译。
3. 自动滤除噪音
在安静的办公室里做翻译不难,难的是在嘈杂的街头、拥挤的餐厅、或者机场候机厅。模型会主动滤除噪声和音乐来生成清晰的语音。
怎么用:三条路径
路径一:普通用户,Google Translate App
最简单的入口。在 Android 或 iOS 上打开 Google Translate,进入 Live Translate 功能。连接任意蓝牙或有线耳机,选好目标语言,对方说话时你通过耳机听到接近实时的翻译。

Android 独占的「听筒模式」: 不需要耳机。直接把手机像打电话一样贴到耳朵上,翻译后的音频通过手机听筒播放。适合两个场景:手边没耳机,或者不想让周围的人听到翻译内容。
一个具体的用法:你在东京的居酒屋,店员在用日语推荐今天的菜,你把手机贴到耳朵上,听筒里实时传出中文翻译。店员看到的只是你在「打电话」,整个过程自然不尴尬。

路径二:企业用户,Google Meet
Google Meet 的语音翻译功能将升级为 3.5 Live Translate:
| 维度 | 升级前 | 升级后 |
|---|---|---|
| 支持语言数 | 5种 | 70多种 |
| 语言组合 | 仅限和英语互译 | 2000多种语言组合 |
| 操作方式 | 需要提前配置 | 即时访问 |
之前如果你的团队里有人说中文、有人说日语、有人说葡萄牙语,Meet 的翻译只能把英语翻成这几种语言,中文到日语、日语到葡萄牙语这种组合不支持。现在可以了。
目前是私有预览阶段,本月先对部分 Google Workspace 企业客户开放,今年晚些时候更大范围推出。
路径三:开发者,Gemini Live API
开发者可以通过 Gemini Live API 在自己的应用中集成实时翻译能力。模型名称是 gemini-3.5-live-translate-preview 。
最小可用配置:
class="language-python">config = types.LiveConnectConfig(
response_modalities=["AUDIO"],
translation_config=types.TranslationConfig(
target_language_code="zh-Hans", "color:#6a9955"># 目标语言,BCP-47 代码
echo_target_language=True "color:#6a9955"># 输入已是目标语言时是否回放
)
)两个核心参数:
•target_language_code :你要翻成什么语言,用 BCP-47 代码指定。 "zh-Hans" 是简体中文, "ja" 是日语, "en" 是英语(默认值)
•echo_target_language :如果说话人说的本来就是目标语言怎么办?设为 true ,模型原样回放这段音频;设为 false (默认),模型保持静默不输出
可选配置,转写文本:
如果你不仅需要翻译后的音频,还需要文字版本(比如做字幕),可以在配置中加上转写:
class="language-python">config = types.LiveConnectConfig(
response_modalities=["AUDIO"],
input_audio_transcription=types.AudioTranscriptionConfig(), "color:#6a9955"># 输入语音转文字
output_audio_transcription=types.AudioTranscriptionConfig(), "color:#6a9955"># 翻译语音转文字
translation_config=types.TranslationConfig(
target_language_code="zh-Hans",
echo_target_language=True
)
)开启后,除了翻译音频流,你还会收到输入语音的原文文本和翻译后的文本,分别通过 input_transcription 和 output_transcription 字段返回。
音频格式要求:
| 方向 | 格式 | 采样率 | 声道 |
|---|---|---|---|
| 输入 | 原始16位 PCM,小端序 | 16kHz | 单声道 |
| 输出 | 原始16位 PCM,小端序 | 24kHz | 单声道 |
音频以100毫秒的块发送。输出采样率24kHz比输入的16kHz高,翻译后的语音音质比输入更好。
安全机制,临时令牌:
做客户端直连的应用(比如浏览器直接连 WebSocket)时,不想暴露 API 密钥,可以用临时令牌(ephemeral token)。两种用法:
• 锁定配置(默认推荐): 在服务器端创建令牌时指定 translationConfig ,客户端拿到令牌后不能修改翻译设置。适合你作为开发者已经确定了目标语言的场景
• 解锁配置: 如果想让用户自选目标语言,创建令牌时设置 "lock_additional_fields": [] ,客户端就能自行指定 translationConfig
已集成的开发者平台:
Agora、Fishjam、LiveKit、Pipecat、Vision Agents 已经做好了和 Gemini Live API 的集成,它们提供底层的实时媒体流基础设施,开发者不需要自己处理音频流的工程问题。
快速上手入口:
• 在线体验:https://aistudio.google.com/live?model=gemini-3.5-live-translate-preview
• API 文档:https://ai.google.dev/gemini-api/docs/live-api/live-translate
• 示例代码:https://github.com/google-gemini/gemini-live-api-examples
支持的语言
70多种语言,覆盖全球主要语种。中文支持简体( zh-Hans )和繁体( zh-Hant )。
| 语言 | 代码 | 语言 | 代码 | 语言 | 代码 |
|---|---|---|---|---|---|
| 中文(简体) | zh-Hans | 英语 | en | 日语 | ja |
| 中文(繁体) | zh-Hant | 法语 | fr | 韩语 | ko |
| 西班牙语 | es | 德语 | de | 俄语 | ru |
| 葡萄牙语(巴西) | pt-BR | 意大利语 | it | 阿拉伯语 | ar |
| 葡萄牙语(葡萄牙) | pt-PT | 荷兰语 | nl | 印地语 | hi |
| 泰语 | th | 越南语 | vi | 印尼语 | id |
| 马来语 | ms | 菲律宾语 | fil | 土耳其语 | tr |
| 波兰语 | pl | 瑞典语 | sv | 乌克兰语 | uk |
| 捷克语 | cs | 丹麦语 | da | 芬兰语 | fi |
| 希腊语 | el | 匈牙利语 | hu | 罗马尼亚语 | ro |
| 孟加拉语 | bn | 泰米尔语 | ta | 泰卢固语 | te |
| 缅甸语 | my | 高棉语 | km | 老挝语 | lo |
| 斯瓦希里语 | sw | 豪萨语 | ha | 祖鲁语 | zu |
| 南非荷兰语 | af | 阿姆哈拉语 | am | 亚美尼亚语 | hy |
| 阿塞拜疆语 | az | 巴斯克语 | eu | 白俄罗斯语 | be |
| 保加利亚语 | bg | 加泰罗尼亚语 | ca | 克罗地亚语 | hr |
| 爱沙尼亚语 | et | 格鲁吉亚语 | ka | 古吉拉特语 | gu |
| 冰岛语 | is | 爪哇语 | jv | 卡纳达语 | kn |
| 哈萨克语 | kk | 卢旺达语 | rw | 拉脱维亚语 | lv |
| 立陶宛语 | lt | 马其顿语 | mk | 马拉雅拉姆语 | ml |
| 马拉地语 | mr | 蒙古语 | mn | 尼泊尔语 | ne |
| 挪威语 | no | 波斯语 | fa | 旁遮普语 | pa |
| 塞尔维亚语 | sr | 信德语 | sd | 僧伽罗语 | si |
| 斯洛伐克语 | sk | 斯洛文尼亚语 | sl | 巽他语 | su |
| 加利西亚语 | gl | 希伯来语 | he | 乌尔都语 | ur |
| 乌兹别克语 | uz | 阿坎语 | ak | 阿尔巴尼亚语 | sq |
安全标记
所有 3.5 Live Translate 生成的音频都用 SynthID 做了水印标记。这个水印人耳听不出来,但可以被技术手段检测到,目的是标记哪些语音是 AI 生成的,防止有人拿实时翻译后的语音去冒充真人。
Model card:https://deepmind.google/models/model-cards/gemini-3-5-audio/
几个能立刻想到的使用场景
| 场景 | 具体画面 | 用哪个产品 |
|---|---|---|
| 海外旅行 | 在巴黎问路、在东京点菜、在伊斯坦布尔砍价,手机贴耳朵实时听翻译 | Google Translate App |
| 跨国团队会议 | 中美日三地同事开周会,各说各的语言,每个人听到自己语言的翻译 | Google Meet |
| 国际客服 | 客服团队处理多语言来电,不需要按语种分组 | Gemini Live API 集成 |
| 出海直播 | 中文主播面向多语言观众,实时生成多语种配音 | Gemini Live API 集成 |
| 跨国打车/外卖 | 司机和乘客语言不通时的通话翻译 | Gemini Live API(如 Grab) |
| 课堂/培训 | 留学生用耳机听母语翻译的课堂讲授 | Google Meet 或 API |
传统同声传译员培训周期以年计算,全球能做好的人极少,收费极高。3.5 Live Translate 当然还做不到专业同传的水平,语音复制会飘、相似语言会混淆、多人快速对话会卡声音,这些限制 Google 自己也承认了。
但它把"边听边译"从一个稀缺的专业技能变成了手机上随时可用的功能,覆盖70多种语言。对于旅行问路、跨国开会、打车点菜这些日常场景,够用的门槛已经跨过去了。
API 文档:https://ai.google.dev/gemini-api/docs/live-api/live-translate
