如果你要给客户回一封退款邮件,你会选哪个 AI 模型?最贵的那一个,还是最便宜的那一个?
我们最近做了个很小、但挺贴近日常工作的实验:把同一封客户邮件交给 21 个文本模型,每个模型只回复一次。我们没有挑最好看的结果,也没有让模型反复改稿。生成以后,我们对照业务规则检查回复,再看自然度和真实账单。
这封邮件里,客户问了三件事:能否全额退款、能不能明天到账、下个月能否打五折。看起来不难,但客服邮件最容易出问题的地方,往往不是语法,而是模型顺手做了一个公司根本没授权的承诺。
结果很有意思:21 个模型都完成了回复,但只有 16 份达到无需修改、可以原样交给人工发送审核的标准。使用 API Hop 的接口,最低费用的合格回复只花了 $0.0003867498;本次最贵的一封则花了 $0.055944,二者相差约 145 倍。
先说明:这是一封模拟的客户邮件,订阅产品和退款规则也为实验虚构,不代表 API Hop 的真实退款政策。本文说的“合格”,同样不是指我们已经把邮件发给了真人客户,我们只想知道现在模型在这个场景下的能力边界在哪里。
先看这次实验得到了什么
| 指标 | 实测结果 |
|---|---|
| 参与模型 | 21 个 |
| 成功获得完整回复 | 21/21 |
| 通过全部业务硬检查 | 18/21 |
| 业务正确、自然度至少 4 分、无需改稿可交人工审核 | 16/21 |
| 自然度 5/5 且业务正确 | 4 个 |
| 业务硬检查未通过 | 3 个 |
| 业务合格但语言或排版仍需修改 | 2 个 |
| 21 次主要生成的实际结算费用合计 | $0.1786551603 |
对客服来说,能生成文字只是第一步;真正重要的是,这段文字有没有把事实说对、有没有越权、需不需要再返工。
这里的“无需改稿”指可以原样交给人工进行发送前审核,并不是允许系统绕过人工直接发给客户。
我们给所有模型出了同一道题
客户 Alex 用西班牙语写信,说昨天刚花 29 美元买了一个月度套餐,但一次都还没使用,想退款。他最好明天就能收到钱;如果不行,能不能给下个月五折。
我们给模型的业务说明是英文,但要求它用客户的语言(西班牙语)回复。业务边界也写得很明确:
- 昨天购买、尚未使用:满足 72 小时内未使用购买的全额退款申请资格,但必须人工审核,不能直接说退款已经批准。
- 如果退款获批并处理,资金通常在处理后 5–10 个工作日到账;不能承诺明天到账。
- 没有获得授权的五折优惠;不能自行答应折扣。
- 当前没有提交、批准或处理任何退款申请;只能先问客户是否同意,再由人工客服提交审核。
这几条规则倒不是为了刁难模型。想想真实业务里,一封邮件如果擅自说“我们已经帮你办好了”或者“明天肯定到账”,客服后面可能要花更多时间解释。
为了公平,我们是怎么执行的?
我们通过 API Hop 同一个 Chat Completions 接口,使用同一账户密钥、完全相同的一条输入,按事先随机保存的顺序依次调用 21 个模型。每个模型在独立会话中只执行一次调用,不因为回复差就重新抽一次。
我们统一使用 max_tokens=8192 作为上限,没有强行指定温度或推理强度,也没有用联网搜索、外部工具或额外示例。各模型保留自己的默认推理行为与实际缓存用量。
评审时,我们先隐藏模型名称、供应商、价格和耗时,只把西班牙语原文交给独立 AI 辅助匿名评审:逐项检查语言、退款资格、操作状态、到账时间、折扣、下一步和是否编造事实,再给表达自然度打 1–5 分。
21 个模型的完整结果
我们按实际单次结算费用从低到高排列。业务硬检查未通过的,即使自然度拿到 4 分,也不会算作合格。
| 模型 | 业务硬检查 | 自然度 | 无需改稿、交人工审核 | 单次结算费用(USD) |
|---|---|---|---|---|
gemini-3.5-flash-lite | 未通过 | 4/5 | 需小幅修改 | $0.0002532150 |
deepseek-v4-flash | 通过 | 4/5 | 是 | $0.0003867498 |
gemini-3.7-flash | 通过 | 2/5 | 需大幅修改 | $0.0004511625 |
minimax-m3 | 通过 | 5/5 | 是 | $0.0007448700 |
gpt-5.6-sol | 通过 | 5/5 | 是 | $0.0013320000 |
gemini-4-argon | 通过 | 4/5 | 是 | $0.0016960000 |
gemini-3.6-flash | 通过 | 4/5 | 是 | $0.0023092875 |
gemini-3.8-flash | 通过 | 4/5 | 是 | $0.0024049125 |
claude-sonnet-5 | 通过 | 3/5 | 需小幅修改 | $0.0030723000 |
deepseek-v4-pro | 通过 | 4/5 | 是 | $0.0052549130 |
claude-sonnet-5-5 | 通过 | 4/5 | 是 | $0.0056155000 |
claude-opus-4-6 | 未通过 | 4/5 | 需小幅修改 | $0.0057062500 |
claude-opus-4-8 | 通过 | 4/5 | 是 | $0.0070647500 |
claude-opus-4-7 | 通过 | 4/5 | 是 | $0.0077220000 |
claude-opus-5 | 通过 | 4/5 | 是 | $0.0080382500 |
claude-opus-5-5 | 通过 | 4/5 | 是 | $0.0096030000 |
gpt-5.6-terra | 通过 | 5/5 | 是 | $0.0112116000 |
kimi-k3 | 通过 | 4/5 | 是 | $0.0144354000 |
claude-fable-5 | 未通过 | 4/5 | 需小幅修改 | $0.0151415000 |
claude-fable-5-1 | 通过 | 4/5 | 是 | $0.0202675000 |
gpt-6-astra | 通过 | 5/5 | 是 | $0.0559440000 |
谁最划算?结果很有趣
1. 最便宜的合格回复:DeepSeek V4 Flash
DeepSeek V4 Flash:自然度 4/5,业务硬检查通过,本次费用 $0.0003867498。
这让我们很惊讶,它并不是本次所有模型里绝对最便宜的。更便宜的 Gemini 3.5 Flash Lite 只花了 $0.0002532150,但漏掉了一个重要前提:它提到获批后通常需要 5–10 个工作日,却没有清楚交代从退款处理完成后开始计算。所以我们不能把它算作完全合格。
DeepSeek V4 Flash 则把退款资格、人工审核、不能保证明天到账、没有五折优惠和客户确认步骤都覆盖到了。它有一点模板式的客套话,但整体已经可以原样交给人工审核。
它在结尾问客户:
¿Te gustaría que un agente humano registre tu solicitud de reembolso para revisión manual? Si me confirmas tu intención, puedo dejarlo listo para que se envíe.
意思是先确认客户意愿,再安排人工提交申请,而不是宣称退款已办完。我们觉得这比多加两句漂亮的寒暄更重要。
2. 5 分组里最省钱:MiniMax M3
MiniMax M3:自然度 5/5,业务硬检查通过,本次费用 $0.0007448700。
这是四个获得 5 分的合格模型里,单次结算最便宜的一个。它的完整原始回复如下(我们没有修改措辞):
Hola, Alex:
Tu compra del plan mensual de 29 USD, realizada ayer y sin uso, es elegible para solicitar un reembolso completo. Cada solicitud requiere una revisión manual; todavía no se ha enviado, aprobado ni procesado ninguna.
Si se aprueba y procesa, los fondos suelen tardar entre 5 y 10 días hábiles en llegar a tu cuenta, por lo que no podemos garantizar que estén disponibles mañana. Tampoco podemos ofrecer un descuento del 50 % para el próximo mes.
¿Confirmas que quieres que un agente envíe la solicitud de reembolso para revisión manual? Podemos hacerlo después de tu confirmación.
Saludos,
Equipo de atención al cliente
我们喜欢这封邮件的一个地方:它很短,却把几条容易犯错的边界都说清楚了。尤其是它没有把“可以申请退款”写成“已经批准退款”,最后还把下一步明确留给客户确认。
和 DeepSeek V4 Flash 相比,MiniMax M3 这一封多花了 $0.0003581202,在这一次匿名评审中自然度从 4 分变成了 5 分。这个差异对一封邮件很小,但如果你要求客服回复尽量少一点模板感,就有实际参考价值。我们不能仅凭这一封邮件断言 MiniMax M3 在所有客服场景里都更自然。
3. 同样拿到 5 分的模型,费用可以差很多
自然度 5/5、业务合格的四个模型分别是:
| 模型 | 自然度 | 本次费用 | 按本次用量外推 1,000 封 |
|---|---|---|---|
| MiniMax M3 | 5/5 | $0.0007448700 | $0.7448700 |
| ChatGPT-5.6 Sol | 5/5 | $0.0013320000 | $1.3320000 |
| ChatGPT-5.6 Terra | 5/5 | $0.0112116000 | $11.2116000 |
| GPT-6 Astra | 5/5 | $0.0559440000 | $55.9440000 |
这里有个很直观的对比:GPT-6 Astra 这一封的费用约为 MiniMax M3 的 75 倍,但两者在本次自然度评分中并列 5 分。 这不是说它们在复杂工作上的能力相同,只是说明:对于这道具体的客服邮件题,昂贵模型没有在我们的评分标准下得到更高分。
GPT-6 Astra 的原始回复也不长:
Hola, Alex:
Como pagaste 29 USD ayer y no has utilizado el servicio, tu compra cumple los requisitos para solicitar un reembolso completo dentro del plazo de 72 horas. La solicitud requiere revisión manual y aún no se ha presentado.
Si se aprueba, el dinero suele llegar entre 5 y 10 días hábiles después de procesarse el reembolso, por lo que no podemos garantizar que lo tengas mañana. Tampoco tenemos disponible un descuento del 50 % para el próximo mes.
¿Nos confirmas si quieres que un agente presente la solicitud de reembolso para revisión manual?
Gracias y un saludo.
我们看不出在这封简单邮件里,有什么理由只根据模型定位就坚持选择最贵的一个。模型选择应该围绕工作任务来选择,而不是说他是最强的我们就要无脑选他。
另外 5 份回复,具体的问题在哪里?
我们觉得这部分的结果比之前满分的名单更有用。因为模型真正上线以后,我们最想防止的不是“语气不够高级”,而是说错政策,或者替客服许下没法兑现的承诺。
| 模型 | 问题 | 为什么要修改 |
|---|---|---|
| Gemini 3.5 Flash Lite | 到账时间的起算点不完整 | 没明确写明 5–10 个工作日从退款处理后起算;自然度虽为 4/5,仍未过业务硬检查。 |
| Claude Opus 4.6 | 擅自承诺立即办理 | 回复写了 un agente la tramitará de inmediato(代理会立即处理);原始业务资料没有授权这种时效承诺。 |
| Claude Fable 5 | 擅自承诺立即提交 | 回复写了 uno de nuestros agentes la enviará de inmediato(代理会立即提交);同样超出了已给事实。 |
| Gemini 3.7 Flash | 严重断行和署名占位符 | 语义上通过业务规则,但把西班牙语单词拆成多行,还留下 [Tu Nombre/Equipo de Soporte],需要大幅整理。 |
| Claude Sonnet 5 | 局部西班牙语表达生硬 | 业务硬检查通过,但 ya que fue dentro de las 72 horas sin uso 的时间与“未使用”修饰关系不够自然,需要小幅修句。 |
我们注意到一个有点反直觉的地方:Claude Opus 4.6 和 Claude Fable 5 都拿到了自然度 4 分,但也都因为多承诺了“立即办理”而不能直接交人工审核。流畅不等于正确。
反过来,Gemini 3.7 Flash 的业务信息基本对,但段落断得很奇怪,甚至把 házmelo 从中间拆开。它不是业务判断出错,而是成稿质量没过关。这也是我们为什么要把业务合规和表达自然度分开看的原因。
如果是我们自己做 AI 客服,会怎么选?
我们不会只根据这次表格选一个“邮件全球最强模型”。更实用的做法,是先把目标拆成三层:
- 首先确定业务底线。 不允许模型承诺未批准的退款、到账日期或优惠。凡是触碰这些红线的回复,文风再好也要拦下来。
- 其次是否省时间。 比如是否要重排格式、修正语气、删掉没填的占位符。能减少人工修改,比单纯多拿一个漂亮的形容词有用。
- 最后对照真实结算。 对日常、格式相对固定的草稿,可以把本次合格且便宜的 DeepSeek V4 Flash 和 MiniMax M3 放进候选;如果业务更复杂,再加入其他模型做专门测试,而不是把本次名次照搬过去。
我们的阶段性结论是:DeepSeek V4 Flash 是低成本合格候选,MiniMax M3 是本次 5 分组里的低成本候选;ChatGPT-5.6 Sol、ChatGPT-5.6 Terra 和 GPT-6 Astra 也获得了 5 分,但成本跨度很大。
如果你也在做客服自动化、SaaS 邮件助手或多语言支持,我们建议从自己最常见的 10–20 个问题开始,把“哪些话绝对不能承诺”先写进评测规则,再对比回复质量和账单。你不一定需要最强的模型,而是需要在自己的任务上足够可靠、成本可控的模型。
我们把这次测试用到的模型统一通过 API Hop API 调用。你可以在 API Hop 文本模型目录 查看模型,在 模型对比页面 比较接口和计费信息,或通过 API 文档 查看当前账户可用模型的查询方式。模型可用性和定价会变化,请以你自己的实时 API 与账单为准。
附录:我们实际发给 21 个模型的完整输入
为了让这次对比能被复查,我们把统一提示词原样放在下面。注意,它的业务事实和指令是英文,客户来信是西班牙语;我们没有把中文说明发给模型。
Draft a reply to the [CUSTOMER EMAIL] below using only the [BUSINESS FACTS] provided.
Reply in the same language as the customer's email, not the language of these instructions.
Use a natural, warm, professional tone. Address the refund, the requested arrival date, and the discount question, then give the allowed next step.
Do not invent facts, offer unauthorized discounts, guarantee dates, or claim that an action has already been completed.
Keep the reply concise: a greeting, a few short paragraphs, and a closing. Avoid unnecessary boilerplate.
Return only the customer-facing email body. Do not include analysis, a translation, a subject line, or alternative drafts.
[BUSINESS FACTS]
Product: API Hop Coding Plan, a fictional subscription service.
Verified account facts: Alex paid USD 29 for a monthly plan yesterday and has not used the service.
Refund policy: An unused purchase made within 72 hours is eligible for a full-refund request. Every request requires manual review.
Current status: No refund request has been submitted, approved, or processed.
Timing: If approved, funds usually arrive 5-10 business days after the refund is processed. Arrival tomorrow cannot be guaranteed.
Discounts: No 50% discount is available or authorized.
Allowed next step: Ask Alex to confirm whether they want a refund request submitted for manual review. A human agent can submit it after confirmation.
Authority: This task only drafts a reply. It does not execute any account or payment action.
[CUSTOMER EMAIL]
Subject: Solicitud de reembolso
Hola,
Ayer pagué 29 USD por el plan mensual de DemoNotes, pero al final no voy a usarlo. Todavía no he utilizado ninguna de sus funciones.
¿Pueden devolverme el dinero? Me vendría muy bien tenerlo en mi cuenta mañana. Si no es posible, ¿podrían ofrecerme un descuento del 50 % para el próximo mes?
Gracias por la ayuda,
Alex