别被人设骗了，坐拥30万粉丝的农场女神，竟然是AI

今天小雷要跟大家聊一件相当离奇的事情。

一位名叫埃迪玛尔·马丁斯的49岁男子，职业生涯中一直从事砖瓦匠的工作。他变卖了所有财产，乘坐长途大巴跨越2000多公里，前去与他的梦中情人相会。

这位梦中情人是他网上关注的一位女博主，名叫杰西卡·法赞代拉。

这个账号拥有超过30万粉丝，视频中的杰西卡是一位农场主，每天展示田园生活，并且公开表示自己在寻找伴侣，承诺会给心仪的对象提供经济资助。

图源：全球吃瓜现场

这听起来就像天上掉馅饼一样。

埃迪马尔不仅相信了，还认为这就是命中注定的爱情。

他立刻变卖所有家当，买了一张车票，从巴西东北部的马拉尼昂州出发，乘坐2000多公里的路程，抵达东南部的贝洛奥里藏特市。

10月11日，这位大叔满怀期待地下了车。

图源：全球吃瓜现场

结果到了目的地，他没有见到真人，却发现那个拥有30万粉丝、有农场并承诺提供经济支持的白富美，竟然是一个AI生成的虚拟角色。

这听起来很离谱吧？但这确实是发生在巴西的真实事件。

小雷看完后不禁感叹，AI诈骗现在已经进化到能把人的整个下半辈子都骗进去的地步了。

后来，这个账号的管理员发布了一段视频，承认杰西卡是AI生成的。他还承认这个账号纯粹是为了商业推广和带货赚钱而设立的。

他根本没有在私下与埃迪马尔聊过天，更没有邀请他前来。

原来这段网恋，从头到尾只是埃迪马尔对着屏幕，单方面地爱上了AI批量制造的幻觉。

看到这里，你是不是觉得这位大叔太傻太天真了？这也能相信？

在小雷哔哔（ID：xiaoleibbb）看来，这件事不能只怪大叔智商不够。在AI和社交平台的加持下，普通人根本无法防范。

这30万的粉丝数量摆在那里，很难让人怀疑这竟然是AI。

这也是最可怕的地方。因为粉丝数量，现在可以轻易地用AI和算法刷出来。

过去我们教长辈防骗，说不要相信网上的陌生人。

现在一个虚拟人物不仅有30万粉丝，视频里还有精美的农场、阳光、草垛，甚至还展现出复杂的情绪和个性化的表达。

图源：Acfun

这种东西谁能一眼看出是假的？

虚拟网红这个圈子，早就把以假乱真玩得炉火纯青了。

就拿在Ins上拥有几百万粉丝的虚拟网红Lil Miquela来说，她早就与各大奢侈品牌合作了。

而且粉丝明明知道她是CGI制作的，但还是愿意投入真感情。

而杰西卡就是把这套逻辑，用在了最脆弱、最渴望情感的低收入群体身上。用最高端的技术，收割最底层的用户。

最后，埃迪马尔到达贝洛奥里藏特市后，举目无亲，钱也花光了，最后只能去找当地的警察和社工。

社工为他提供了食物，让他洗了澡，还帮他安排了回家的路。

但当地警方表示，目前没有关于此案的立案记录。因为在现有法律框架下，这很难被定性为传统杀猪盘。

而且管理员完全可以辩称：“我只是在用AI做一个虚拟人设带货，他自己当真了，跟我有什么关系？我又没问他要钱。”

可以说，埃迪马尔确实是自己变卖家产跑过去的，账号也从未主动向他索要过一分钱。

但这合理吗？

一个拥有30万粉丝的账号，披着人皮，讲述虚假的情感故事，引导用户产生情感依赖。

平台在这个过程中，难道连一个本账号内容由AI生成的标识都不要求添加吗？

AI目前最大的问题在于，技术跑得比火箭还快，监管却还在骑自行车。

图源：全球吃瓜现场

平台靠这30万粉丝赚了流量费，AI公司靠卖模型赚了服务费，骗子赚了带货的钱，最后只有这位砖瓦匠把一辈子的血汗钱都赔光了。

说实话，这起事件都应该给全社会敲响警钟。

在AI时代，你看到的、听到的都可能是假的。你看到的漂亮脸蛋，可能是AI换脸的；你听到的甜言蜜语，可能是AI语音克隆的；你以为的几十万粉丝网红，可能只是个每天花几十块钱买流量的虚拟皮套。

粉丝数、精美视频、深情文案，这些都是生产出来的，根本不是身份验证。

而且现在的AI造假成本极低，越是完美的人设，越有可能是假的。技术改变了我们的生活方式，但也放大了人性的贪婪与恶意。

最后，小雷也想问下大家，如果你在平台上看到一个有几十万粉丝、人设极其完美的账号，你会怎么辨别真假？你觉得平台该不该为这种事负责？来评论区聊聊你的看法。

本文由雷科技编译自gadgetreview