4700个“女友”竟大部分不是人！Anthropic曝光AI杀猪盘

泰国华人网讯 Anthropic最新报告曝光一起引发关注的AI诈骗案例，案例编号为GTG-15001。报告称，一家国内App工作室仅用两周时间，就搭建出4700个AI女友账号，并同时向约25000名海外男性用户开展所谓“交友”互动。

据报告描述，这个团伙采用“AI+真人兼职”的方式运营账号。匹配池中约75%的账号由AI生成，剩余25%则由真人兼职人员负责。AI主要承担日常聊天、陪伴和恋爱互动，而真人则专门处理AI比较容易暴露身份的场景。

例如，当用户要求进行视频通话时，会由真人兼职人员接通，以证明账号背后确实存在真人。即便是真人负责回复文字消息，也并非完全依靠人工完成，而是使用AI生成多条备选回复，再由真人挑选后发送给用户。

报告称，该团伙一共运营20多款交友App，对外宣传为真人交友平台，但后台采用的是同一套AI运营模式。相关平台利用Claude模型累计生成约236万条聊天消息，并通过充值买币的方式向用户收费。

从商业模式来看，用户如果希望继续与“对象”聊天，就需要不断充值购买平台虚拟货币。按照报告描述，这种模式实际上是在传统网络诈骗模式外套上一层AI技术包装，通过大规模自动化聊天降低运营成本，同时扩大潜在受害者范围。

为了规避应用商店的审核和平台检测，该团队还开发了专门的UI控制器。据报告介绍，这套系统只会在苹果、谷歌应用商店进行审核时激活，平时则处于休眠状态，以降低被平台发现的可能性。

与此同时，20多款App还使用不同的类名，以规避平台针对相似应用进行的检测。通过AI批量生成账号、自动化聊天以及真人辅助视频通话等方式，该团伙试图让大量虚拟账号看起来更接近真实用户。

这起案例引发关注的另一个原因，是AI在诈骗产业中的角色已经从简单的辅助工具进一步发展为大规模运营工具。过去需要大量人工完成的聊天、维护关系等工作，如今可以借助AI批量完成，而真人只需要处理关键节点。

报告同时提出了一个值得关注的问题：AI厂商可以查看用户与AI之间的全部对话，并根据相关内容自行判断是否存在违规行为，随后开展调查、封号以及对外发布报告。按照报告所涉及的情况，这一过程并不需要经过法院或监管机构，也不需要获得用户同意。

因此，这起案例除了暴露AI被用于网络诈骗的风险，也引发了关于AI平台数据访问、用户隐私以及平台自身执法权限边界的讨论。