假图片已泛滥成灾!成千上万新西兰人被骗

1News的最新调查发现,成千上万的新西兰人,正在被一些“炸裂新闻”所欺骗。

01

人工智能照片泛滥

1News目前已经确认,至少有10个Facebook页面,会把现有的新西兰新闻拿来,用AI重新改写,再配上合成图片发布到社交平台上。

其中一个名为NZ News Hub的页面,在Facebook上有数千个点赞、评论和转发。

1News查看了该页面1月份发布的209条内容。

这个页面的名字与2024年关闭的全国性媒体Newshub非常相似。

页面简介写着:“NZ News Hub为你带来最新的新西兰新闻、突发事件、政治、商业、体育和社区动态。”

但实际上,这个页面并不包含任何原创报道。

对比显示,该页面发布的一些图片,与真实现场严重不符。

例如,一张Mount Maunganui山体滑坡的AI生成图片,看起来比真实场景要严重得多。

更严重的是,这些图片没有一张标注为AI生成,而且有些内容甚至使用了真实人物的虚假形象。

在其中一个案例中,一名在Mount Maunganui滑坡中遇难的未成年人,被AI合成成“跳舞的样子”。

另一个案例中,一对因女儿自杀而失去孩子的父母,被修图成看起来像是在亲密互动。

涉及自然灾害和紧急服务的内容,几乎都被刻意夸大和戏剧化,与真实情况不符。

例如,在阿卡罗阿港搁浅的一艘观光船,被改成“船上挤满乘客”的样子,而现实中并非如此。

有些图片里,警察穿着英式或美式制服,甚至举着枪,但官方通报中根本没有任何警员持枪的情况。

02

带着提示词就发了

还有更离谱的情况:有些帖子里,AI的原始提示词被直接忘记删掉。

比如在一条帖子的上方写着:“这是一个新闻风格的改写,带清晰标题、表情符号和热门标签”。

另一条的下方甚至写着:“如果你愿意,我也可以把它写得更短、更戏剧化,或者更适合社交媒体。”

通过Google图片搜索可以发现,这些图片中有不少带有SynthID数字水印,这意味着它们是用某科技公司的AI图片生成工具制作的。

NZ News Hub创建于去年11月底,最多时拥有4700多名粉丝。

单条帖子经常能获得上千个点赞和评论。

其中不少评论是在质疑这些AI图片,并把问题归咎于“媒体造假”,但事实上,这个页面与任何正规新闻机构都没有关系。

当有网友直接指出某张图片是AI生成时,页面的回应只有一句:“新闻是真的。”

对于快速刷信息的人来说,这些内容几乎和真实新闻没有区别。

03

官方发出警告

多个政府部门已经对“假新闻页面”发出公开提醒。

吉斯本区议会和Tairāwhiti民防部门上周表示,他们已经注意这个问题。

这些页面之所以容易让人信以为真,是因为它们:使用新西兰电话号码或地址;模仿新闻媒体的品牌和“突发新闻”风格;未经允许使用真实人物和机构名称。

国家应急管理局NEMA上个月也发出警告,“在紧急情况下,我们向公众发布信息的主要渠道仍然是正规媒体。”

他们也呼吁公众保持警惕,使用可信来源,在转发前确认信息是否可靠,并在合适的情况下举报可疑内容。

04

搞到最后谁都不信了

AUT大学副教授、新闻、媒体与民主研究中心联合主任Merja Myllylahti表示,这类 AI“新闻”页面通过复制警方通报和官方信息,再配上未标注的AI图片,严重模糊了新闻与虚构内容的界线。

她指出:“他们用的是真实新闻里的信息,但图片是假的,而且不告诉你。”

维多利亚大学AI高级讲师Andrew Lensen则表示,这类伪装成新闻的AI内容正在加速扩散,也越来越难辨别。

“这是一个明显正在恶化的问题。”

“哪怕故事本身是真的,细节也可能已经不准确了。”

Myllylahti认为,问题在于,很多读者根本分不清正规新闻机构和模仿它们的假页面。

当这些假页面使用相似名称和风格时,公众很容易误以为“媒体都在造假”。

研究人员警告,这类内容的泛滥,正在进一步侵蚀公众对新闻的信任。

AUT的最新调查显示,只有32%的新西兰人信任新闻媒体。

截至截稿,Facebook的母公司Meta没有回应1News关于这些页面是否违规、是否会采取行动的询问。

更新:到周一下午,NZ News Hub已从Facebook消失,目前不清楚是自行删除,还是被平台处理。