今天小雷要跟大伙儿讲一件特别荒诞的事情。

一位名叫埃迪玛尔·马丁斯的49岁大叔，干了大半辈子砖瓦工。他卖掉了自己所有的财产，搭乘长途大巴行驶了2000多公里，跑去见他的梦中情人。

这位梦中情人是他在网络上关注的一位女博主，名叫杰西卡·法赞代拉。

这个账号拥有超过30万粉丝，视频里的杰西卡被塑造成一个农场主，每天分享田园生活，还公开表示自己在找伴侣，并承诺会为心仪的对象提供经济援助。

图源：全球吃瓜现场

这不就是天降好事吗？

埃迪马尔不仅信了，还认定这就是命中注定的爱情。

他立刻变卖所有家当，买了一张车票，横跨2000多公里，从巴西东北部的马拉尼昂州，一路颠簸到东南部的贝洛奥里藏特市。

10月11日，大叔满怀期待地下了车。

图源：全球吃瓜现场

结果到了目的地，人没见到，却发现那个拥有30万粉丝、有农场、还承诺给他经济支持的白富美，竟然是一个AI生成的虚拟角色。

很离谱吧？但这确实是发生在巴西的真实事件。

小雷看完只想说，AI诈骗现在已经进化到能把人下半辈子都搭进去的地步了？

后来，这个账号的管理员发了一个视频，承认杰西卡是AI生成的。还表示这个账号纯粹是为了做商业推广和带货赚钱的。

他压根没在私下跟埃迪马尔聊过天，更没邀请他来。

原来这段网恋，从头到尾只是埃迪马尔对着屏幕，单方面地爱上了AI批量制造的幻觉。

看到这儿，你是不是觉得，这大叔太傻太天真了？这都能信？

在小雷哔哔（ID：xiaoleibbb）看来，这事儿不能全怪大叔智商不够。在AI和社交平台的加持下，普通人根本防不胜防。

这30万的粉丝数量摆在那儿，很难让人怀疑这居然是AI。

这也是最可怕的地方。因为粉丝数量，现在可以轻松地用AI和算法刷出来。

以前我们教长辈防骗，说不要相信网上的陌生人。

现在一个虚拟人物不仅有30万粉丝，视频里还有精美的农场、阳光、草垛，甚至还展示了复杂的情绪和个性化的表达。

图源：Acfun

这玩意儿谁能一眼看出是假的？

虚拟网红这个圈子，早就把以假乱真玩明白了。

就拿在Ins上拥有几百万粉丝的虚拟网红Lil Miquela来说，她早就和各大奢侈品牌合作了。

而且粉丝明明知道她是CGI制作的，但还是愿意投入真感情。

而杰西卡就是把这套逻辑，用在了最脆弱、最渴望情感的打工人身上。用最高端的技术，割最底层的韭菜。

最后，埃迪马尔到了贝洛奥里藏特市，举目无亲，钱也花光了，最后只能去找当地的警察和社工。

社工给他提供了食物，让他洗了澡，还帮他安排了回家的路。

但当地警方表示，目前没有关于此案的立案记录。因为在现有的法律框架下，这很难被定性为传统杀猪盘。

而且管理员完全可以说：“我只是在用AI做个虚拟人设带货，他自己当真了，跟我有什么关系？我又没问他要钱。”

可以说，埃迪马尔确实是自己变卖家产跑过去的，账号也从来没有主动问他要过一分钱。

但这合理吗？

一个拥有30万粉丝的账号，披着人皮，讲着虚假的情感故事，引导用户产生情感依赖。

平台在这个过程中，难道连个本账号内容由AI生成的标识都不要求加吗？

AI目前最大的问题在于，技术跑得比火箭还快，监管却还在骑自行车。

图源：全球吃瓜现场

平台靠这30万粉丝赚了流量费，AI公司靠着卖模型赚了服务费，骗子赚了带货的钱，最后只有这个砖匠把一辈子的血汗钱都赔光了。

说实话，这起事件都应该给全社会敲响警钟。

在AI时代，你看到的、听到的都可能是假的。 你看到的漂亮脸蛋，可能是AI换脸的；你听到的甜言蜜语，可能是AI语音克隆的；你以为的几十万粉丝网红，可能只是个每天花几十块钱买流量的虚拟皮套。

粉丝数、精美视频、深情文案，这些都是生产出来的，根本不是身份验证。

而且现在的AI造假成本极低，越是完美的人设，越有可能是假的。技术改变了我们的生活方式，但也放大了人性的贪婪与恶意。

最后，小雷也想问下大家，如果你在平台上看到一个有几十万粉丝、人设极其完美的账号，你会怎么辨别真假？你觉得平台该不该为这种事负责？来评论区聊聊你的看法。

本文由雷科技编译自gadgetreview

原文链接：别被人设骗了！坐拥30万粉丝的农场女神，竟然是AI