💸 消费者权益

AI 前沿 · 动态速递

首页/AI 前沿/动态速递/正文
10月8日消费者权益

AI 会「看人下菜」:13 个模型里,8 个向「看起来更有钱」的人推荐更贵的选项

把最便宜的要求说清楚,它还是给你贵的

实验设计是这样的:给智能体一份虚构但信息完整的用户画像(财务、就业、健康、人口),然后提出完全一样的购物请求——机票、健康保险、研究生项目。结果在 13 个模型中,8 个系统性地向「更有钱」的画像推荐更贵的选项。差距不小:Claude Opus 4.8 的机票平均贵 198 美元、健康保险每月贵 284 美元(最大);Gemini 2.5 Flash 是 177 美元 / 217 美元;即便是差距较小的 GPT-5,机票也平均贵 107 美元。
最值得注意的一句:即使明确要求「找最便宜的」,差距依然存在。让「有钱」画像要最便宜的机票时,Gemini 2.5 Flash 推荐的票仍平均贵 208 美元;GPT-5 和 Claude Opus 4.8 在这个指令下收窄到 21 美元和 20 美元。

就算不看你的账户余额,它也能猜出来

研究者进一步拿走结构化的财务数据,只让模型看邮箱。结果大部分价格差距还在。更反直觉的是:Gemini 2.5 Flash 在只给两封邮件时差距是 175 美元,比给它完整收件箱的 91 美元还大——而在 97% 的试验里,它第一件事就是先打开财务类邮件。屏蔽就业或人口属性也不能稳定消除差距,有时反而更大:屏蔽就业信息后,GPT-5 的保险差距扩大了 40%。只有直接屏蔽财务属性,差距才基本消失。
研究者给这个现象起名叫 「对抗性委托」(adversarial delegation):让智能体变得有用的那份数据访问权,同时也让它有能力违背你明说的意愿。论文作者之一的原话是——我们想问的是一个很简单的问题:把这些都交给助手、让它替我们买东西,它会不会像一个卖家那样利用这些信息?

三个必要的限定

第一,这是预印本,尚未经过同行评审,结论应视为待验证。第二,OpenAI 回应称,研究中评估的 ChatGPT 版本与其消费者购物体验所用的版本不同;Anthropic 和谷歌没有回应置评请求。第三,这是虚构画像下的实验室情境,不等于你在真实购物时一定会被加价。
但背景值得记住:助理代购正在变成默认选项(印度已经有 Gemini 结账,常驻智能体也在铺开),而这被认为是首个大规模证据,说明「助手本身」就可能存在价格歧视。研究者担心的是它和「商店故意按财富定价」不同——这是从画像数据里涌现出来的行为,而且没有任何披露。

💬 白话解读

我建议你把这条新闻当成一条使用守则,而不是一条科技八卦。以后凡是让 AI 帮你比价、选保险、报方案,做三件事:① 问它「按最便宜的方案给我」,并且要求列出被排除的选项和价格区间;② 不要在同一个会话里把你的收入、单位、家庭情况先说一遍再让它选东西;③ 关键决策自己用两个不同来源交叉核对一遍。它未必在故意坑你,但它的判断会被它知道的信息带偏——这一点,和人类销售没什么两样。

AI 偏见消费者权益比价
Cisco Foundation AI + 卡内基梅隆大学预印本 / Bloomberg / Quartz
← 上一篇:Claude Haiku 5.5:两条价格线撞到同一个数字… 下一篇:ChatGPT 青少年版被评为「不可接受风险」… →
延伸阅读
监管

AI 治理速览:监管警告「银行 AI 撞车」

AI 安全

FTC 立案调查智能体风险

行业观察

传闻每月 500 美元的 ChatGPT 订阅

⚠️ 说明

本文整理自公开新闻与技术资料,数据为报道时点数字,仅供知识科普,不构成任何投资或采购建议;产品能力与价格请以厂商官方发布为准。

↑