[智能应用]一张AI假照片，差点骗走5万块 [复制链接]

注意看，就是下面这一张平平无奇的照片。
一张木桌子裂开的遗照。
却价格不菲，一度高达 5314 英镑，约合人民币 51626 元。
听完它的价格，估计你一定已经点开这张图细细观摩了，想看看这木头里是不是藏着金子。
那么，你有没有实发现这个桌子的裂缝，其实是假的。
事情是这样的，一个 Airbnb 的房东在租客退房之后，找平台哭诉。说自己价值连城的桌子被租客整烂了，裂开这么大一道口子。
还说不只是这张桌子，什么床垫、吸尘器、沙发、微波炉、电视、空调，反正家里值点钱的物件全坏了。
真正的魔童降世，寸草不生。
平台马上给租客发了「 最后通牒 」，要求租客赔偿 5314 英镑。
但是，租客仔细一看就发现了华点。房东提交的两张“ 桌子阵亡遗照 ”里，这道缝居然长得不一样。
左图的下端裂缝，只到浅色木头的下缘。到了右边的图里，裂缝却直接裂到顶了。
说实话，光是裂纹本身，就觉得很突兀，像是自动水笔画上去的一样。
最后媒体曝光后，平台一通追查，才发现这图可能真是 AI 生成的。退回了租客所有租金，还迅速封禁了这位“ P 图大师 ”。
不知道大家看到这则新闻啥感觉，世超我是觉得：意料之外，又在情理之中。
AI 就好像是送给这些投机倒把者的【褒奖】一样，一举把他们的造假成本给打下来了。
以前你想骗人，起码还得会个 PS，看得懂什么叫仿制图章、涂鸦笔。现在有张嘴，就能出去随地拉屎了。
就比如世超随手拍了一个玩偶，然后导入到图片生成 AI 里。输入指令，弄脏手，玩偶手上就多了一块污渍了。
这种新手小白 0 基础友好的 P 图工具，激发了各路牛鬼蛇神的创造力。
不只是国外，国内的卖家和买家之间，早就通过互联网这座桥梁，开始了一场魔法对轰。
比如有人说隔壁设计公司员工天天吃免费榴莲，就靠 chatGPT 来 P 烂榴莲的图，P 完就找商家仅退款。
看到这你可能会嘀咕，哪有这么夸张，是不是起号的段子啊。
但越逛，你就越觉得这事没准是真的。。。因为只要在任意一个平台上输入「 AI+退款 」，你就能找到各种各样的案例。
甚至有的人来来得实在太过匆忙，连右下角的 AI 水印都没来得及关掉，就出来骗了。。。
这边顾客用 AI 仅退款，那边商家就用 AI 演堂食。
热闹的门店图是 AI 做的，络绎不绝的客人也是刚刚生成的 AI 假人。
你想点到店里面看看，考察一下餐厅情况到底怎样。
乍一看，干净整洁，窗明几净。结果仔细一瞧，图片的右下角又写着几个大字——「 豆包 AI 生成 」。
你以为不点外卖就可以躲过了么？
那么他们这么胡搞瞎搞，咱们一点办法都没有吗？
其实，商家们用 AI 假图来蒙骗人，相对来说好对付一点。都不用畅谈未来，电商平台们就已经在疯狂打补丁，不允许商家用 AI 假图。
但另外一头，作为被讨要退款的商家，或者是被泼脏水的消费者们，这事就没那么好搞了。
以前想筛选出占便宜的买家，商家都会要求对方扔垃圾桶里，或者是把东西损坏。之前隔壁小黑胖，就遇到过类似的情况。
但现在，图片已经不可信了。这场狼人杀硬生生把商家们逼成了福尔摩斯转世。为了能申诉成功，到处找 AI 存在的证据。
如今识别的方法，已经从拍照确认升级成了视频表清白。
因为 AI 视频的一致性还比较差，很容易露出马脚。比如下面这个想白买家发来的视频，扔东西扔着扔着，突然基因突变般长出了第三只手来。
建议唐探第 5 部，一定要这些商家出演。
其实，大家也不是没想过怎么防这招。
像欧盟的《人工智能法案》，还有我国从下个月就要实行的《 人工智能生成合成内容标识办法 》，都要求 AI 生成的图，必须得要有水印。
这是咱们肉眼看不到，就算截屏、改色、套滤镜，也消不掉的数字水印。
谷歌、meta 等很多厂商都已经在做了。比如 meta 的 Stable Signature，还有谷歌今年推出的 SynthID。
就拿谷歌来说，它靠的是把水印植入到图片的「 低频频谱域 」里去。
就像声音有高音、低音一样，图片同样也可以分为高频和低频。天空、湖水、皮肤这些就是低频，然后皱纹、衣服边缘这些变化多的地方，就属于是高频。
谷歌在频段里面塞了水印进去。有点类似于本来应该是低频振幅的地方，反而出现了一些高频的反馈。
看着很靠谱对不对？但已经有人想到对付它的招了。
一个叫 Unmarker 的开源工具，号称能在 5 分钟里破除几乎所有 AI 图像的水印。
它也不找水印具体在哪，上来就把整个图片的频谱信息全部改了个遍。
虽然谷歌官方说水印没被完全消掉，但这么一通无差别攻击之后，也消个七七八八了。
而且，谷歌上一代水印技术 HiDDeN 已经能完全消除，Meta 的水印它也能对付 79%。
下面两张图，分别为 Google SynthID 和 UnMarker 处理结果
当然了，Unmarker 的目的并不是去干坏事，它只是想测试试这些数字水印，是不是真像大厂们说得那么可靠。
得到的答案明显是否定的。世超有预感，在短时间里，这都是一场你追我逃的游戏。
大厂们想要造出完美的数字水印，可能还需要很长的时间。但AI给我们带来的影响，却已经到来。
现在大家之间互相信任的成本已经越来越高了。
就像退个货，从最开始的拍张照，变成拍视频。最后，可能你想要退个款，还得线下和商家碰一碰。
住个酒店民宿，也得先把房间从头到脚拍一个遍。

AI生成图像引发的信任危机

最近，一张看似普通的木桌子照片引发了广泛关注。这张照片显示了一张裂开的木桌子，房东声称这张桌子价值不菲，要求租客赔偿5314英镑（约合人民币51626元）。然而，经过仔细观察和媒体曝光，这张照片的裂缝被发现是假的，很可能是通过AI生成的。这一事件揭示了AI技术在日常生活中的应用及其带来的信任危机。

事件经过

1. 房东的投诉：一位Airbnb的房东在租客退房后，向平台投诉称，租客损坏了家中的多件贵重物品，包括一张价值5314英镑的木桌子。
2. 平台的反应：平台迅速采取行动，向租客发出了“最后通牒”，要求租客赔偿损失。
3. 租客的发现：租客在仔细查看房东提交的照片后，发现桌子裂缝在不同照片中表现不一致，怀疑照片是伪造的。
4. 媒体曝光：经过媒体曝光和平台调查，最终确认照片可能是通过AI生成的。平台退回了租客的所有租金，并封禁了这位“P图大师”。

AI生成图像的广泛应用

这一事件并非孤立现象。随着AI技术的发展，生成图像的工具变得越来越普及和易用。这些工具不仅被用于创意设计，还被一些不法分子用于欺诈行为。例如：

- 退款欺诈：一些消费者利用AI生成图像，伪造商品损坏或质量问题，以此要求退款。
- 虚假宣传：商家使用AI生成虚假的门店照片或产品图片，误导消费者。
- 社交媒体：一些用户利用AI生成虚假照片，用于社交媒体上的虚假宣传或欺诈行为。

应对措施

面对AI生成图像带来的信任危机，各方正在采取措施应对：

1. 电商平台的监管：电商平台已经开始加强对商家使用AI生成图像的监管，禁止商家使用虚假图片进行宣传。
2. 数字水印技术：为了识别AI生成的图像，一些公司开发了数字水印技术。这些水印是肉眼不可见的，但可以通过特定工具检测到。例如，谷歌的SynthID和Meta的StableSignature。
3. 开源工具的挑战：尽管数字水印技术在一定程度上可以识别AI生成的图像，但一些开源工具如Unmarker已经能够部分或完全消除这些水印，给识别工作带来挑战。

信任成本的提高

这一事件反映出，随着AI技术的发展，人与人之间的信任成本正在不断提高。为了确保交易的真实性和可靠性，人们不得不采取更多的验证措施，例如：

- 视频验证：商家要求消费者提供视频证据，以证明商品损坏或质量问题。
- 现场检查：在某些情况下，消费者可能需要亲自到店检查商品或服务的真实情况。

结论

AI生成图像技术的发展带来了便利，但也引发了新的信任危机。为了应对这一挑战，各方需要共同努力，加强监管和技术手段的应用。同时，消费者和商家也需要提高警惕，采取必要的验证措施，以确保交易的真实性和可靠性。尽管这一过程可能会增加交易的成本和复杂性，但这是维护市场秩序和消费者权益的必要手段。

一张AI假照片，差点骗走5万块
最近，一起涉及AI假照片的事件引起了广泛关注。据报道，一张看似普通的木桌子裂开的照片，差点让一位Airbnb房东骗走5万块人民币1。

事件概述
事情发生在一位Airbnb房东与租客之间。租客退房后，房东声称其价值连城的桌子被损坏，并提供了照片作为证据。这张照片显示桌子裂开了一道口子。房东要求租客赔偿5314英镑（约合人民币51626元）。然而，经过进一步调查，平台发现这张照片可能是AI生成的2。

事件细节
照片的真实性：最初，房东提供的照片显示桌子裂开，但仔细观察后发现裂缝显得非常突兀，像是自动水笔画上去的一样。最终，经过媒体曝光和平台的调查，确认这张照片可能确实是AI生成的3。

处理结果：平台最终决定退还租客的所有租金，并迅速封禁了这位使用AI生成假照片的房东3。

AI技术的滥用
这一事件不仅揭示了AI技术在图像生成方面的强大能力，也暴露了其潜在的滥用风险。随着AI技术的发展，生成高质量的假照片变得越来越容易，这使得一些不法分子利用这一技术进行欺诈活动3。

AI生成技术：现代AI生成技术可以轻松地创建出逼真的图像，甚至可以让非专业人士在短时间内学会使用这些工具3。

防范措施：为了应对这一问题，一些国家和地区已经开始制定相关法规，要求AI生成的图像必须带有水印，以便于识别3。

结论
这一事件提醒我们，尽管AI技术带来了许多便利，但也必须警惕其可能带来的负面影响。对于消费者和商家而言，提高对AI生成内容的识别能力变得尤为重要