首个AI翻译实战榜单出炉!GPT-4o稳坐天花板,文化方面Qwen系列一马当先
AI 替咱打工搞翻译,到底谁家最好用?
终于,有人来统一翻译江湖的标准了:首个应用型 AI 翻译测评榜单 TransBench 在 OpenCompass 上线。
它由阿里国际 AI Business 团队联合上海人工智能实验室、北京语言大学共同发布。

与传统的翻译测评体系相比,TransBench增加了幻觉率、文化禁忌词、敬语规范等指标,专门针对大模型翻译最容易出错的关键问题进行实战考核。
比如:
翻得挺溜但张口就编,这就得算 " 幻觉 ";
翻得准确却冒犯了当地文化,那也是 " 翻译事故 ";
甚至你在客服场景里少说一句 "please",都可能让用户不爽。
这是首次针对行业的细分领域构建评测数据和评测方法。这些指标均来自真实场景的使用反馈,由此来测评大模型是否符合大规模应用的标准。
目前,TransBench 评测方法与数据集已全面开源,也已发布了首期测评结果。
欢迎各个 AI 翻译机构去打榜,一较高下~
GPT-4o 稳坐 " 翻译 AI 天花板 "
官网表示,TransBench 数据集中涵盖中、英、法、日、韩、西班牙等多种语言。
此外,还在不断持续更新海量小语种。
TransBench 评测体系中的数据集,根据 " 通用标准 "" 电商文化 "" 文化特性 " 三个大类,整理了不同的数据集。

目前,TransBench 多语言翻译评测榜单首期已经出炉。
评测榜单从 " 综合得分 "" 通用标准 "" 电商文化 "" 文化特性 " 四个维度来给每个模型的翻译能力打分。
其中,综合得分是模型在评测数据集的三大维度的综合平均得分。为了保证数值可被平均,榜单对不同得分进行了数值缩放。
我们查看并整理了 " 英语翻译为其它语言 " 和 " 中文翻译为其它语言 " 两个榜单的模型能力。
英语翻译为其它语言
这个条件下,综合得分和通用标准的得分前三,都分别是:
第一:GPT-4o
第二:DeepL Translate
第三:GPT-4-Turbo
其中比较特别的是 DeepL Translate,上个月底刚刚发布。
和前三名的另外两位不同,这是一个专门的机器翻译(MT,Machine Translation)模型,而不是通用大语言模型。

在电商行业,DeepSeek-R1 的翻译能力杀入榜单前三:

而在文化特性方面,Qwen 系列一马当先。
Qwen2.5-0.5B-Instruct 和 Qwen2.5-1.5B-Instruct 分别位居第一第二,同时第三名花落 EuroLLM-1.7B-Instruct。
大家可能对 EuroLLM-1.7B-Instruct 相对陌生,它是由多个欧洲研究机构联合开发的开源多语言大模型,涵盖 35 种语言,旨在支持所有欧盟官方语言以及其他主要语言。

中文翻译为其它语言
同样,在中文翻译为其它语言这条赛道上,综合得分和通用标准的排名相同:
第一:GPT-4o
第二:DeepSeek-V3
第三:Claude-3.5-Sonnet

在电商行业,拿下第一的是均值得分 4.420 的 DeepSeek-V3。
紧随其后的才是 Gemini-2.5-Pro 和 Claude-3.5-Sonnet。

最后一项文化特性,Qwen 系列的表现同样出色。
榜单前三分别是 Qwen2.5-0.5B-Instruct、Llama-3.3-70B-Instruct、Qwen2.5-1.5B-Instruct。

三大维度打造翻译大模型实战考卷
随着 AI 大模型加速落地,翻译模型也进入 " 比谁更好用 " 的时代。
相应的,业内也对大模型翻译效果有了更高的要求,比如要符合不同地区的文化特性、能体现不同行业的语言特色等。
但问题来了——怎么判断一个 AI 翻译模型到底好不好用?
传统的翻译测评维度,主要关注通用质量(如 BLEU、COMET),难以反映真实使用场景中对语义准确性、文化合规性、用户体验的高要求。
并且,大模型时代的 AI 翻译往往面临幻觉等更多问题。
也就是说,传统的翻译测评维度在今天已经不适用了。
为此,阿里国际 AI Business 团队联合上海人工智能实验室、北京语言大学一起,构建了更全面、最新的评测标准和规范 TransBench。
它从三大维度,重新定义翻译测评:
第一,全面的通用标准。
不仅包括通用质量,还新增幻觉率和鲁棒性评测。
第二,行业垂直标准。
这是首次针对行业的细分领域构建评测数据和评测方法,数据均来自行业细分领域真实数据,并利用语言专家在应用中的标注数据训练面向行业的打分模型。
第三,跨文化特性标准。
首次提出文化禁忌和敬语规范的评测数据和评测方法。
举个例子!
电商场景下的用户投诉,通常与敬语、禁忌语等相关。
这些翻译结果从字面意思看无误,但会直接影响到对话人的体验,应该被纳入到测评的范围中。
从阿里国际自研翻译大模型真实用户反馈中总结提炼
其实,早在去年 10 月,阿里国际的 AI Business 团队就发布了首个大规模商用的翻译大模型 Marco MT,其效果赶超 Google、DeepL 等头部 AI 翻译工具。
截至目前,Marco MT 的日均调用量为 6 亿次,是电商领域使用量最大的翻译大模型。
而TransBench 的测评体系,正是基于 Marco MT 在全球真实用户反馈中总结提炼而来。
因此,构建 TransBench 这件事中有阿里国际的身影就很好理解了。
当然,除了有业界认可的领先技术外,业务需求也是其中原因之一。
阿里国际旗下有 Aliexpress、Lazada、Alibaba.com、Trendyol 及 Daraz 等电商业务,覆盖全球 200 多个国家和地区,多语言翻译是助力业务发展的重要一环。
根据公开信息,2023 年 3 月,阿里国际成立了 AI Business,基于全球化电商场景探索 AI 技术。
现在,阿里国际的所有电商平台均已广泛应用 AI 能力,已服务了超 50 万卖家,形成了以服务中小企业出海为核心,覆盖全球多元市场、多种电商模式的规模级 AI 应用。
目前,TransBench 的测评方法进行了开源,评测结果也将持续更新。
BTW:
最近启动的 2026 届校招中,阿里国际放出的岗位,80% 是 AI 岗位,包括 AI 算法、研发、AI 产品经理等。
有兴趣的同学欢迎投递~
测评网址:
https://transbench.com/#/?lang=zh-cn
— 完 —
量子位 AI 主题策划正在征集中!欢迎参与专题365 行 AI 落地方案,一千零一个 AI 应用,或与我们分享你在寻找的 AI 产品,或发现的AI 新动向。
也欢迎你加入量子位每日 AI 交流群,一起来畅聊 AI 吧~
一键关注 点亮星标
科技前沿进展每日见
一键三连「点赞」「转发」「小心心」
欢迎在评论区留下你的想法!