马斯克旗下AI大批量生成裸照惹争议！日本也成重灾区，连最美皇室公主也被“脱衣”！
如今各类AI工具如雨后春笋般涌现，马斯克旗下的 Grok则是顶头大热门。只需在Grok上传图片、输入文字提示就能快速生成以假乱真的AI图像，并可转化为短视频，一键同步到社交平台X。或在X上艾特Grok，输入你的要求，Grok也会很快生成相关图片。
然而最近Grok被推到风口浪尖。马来西亚、印尼等国相继发布禁令、禁用Grok。英国监管机构彻底调查Grok、并考虑全面封禁X，现任英国首相斯塔默更称Grok“可耻、令人作呕”。
1月9日，日本总务大臣林芳正在记者会上表示，已敦促X实施适当的应对措施。
这一切皆因Grok充斥众多伪造的大尺度色情图像。
xAI从去年8月开始向付费用户推出Grok Imagine，还特别设置了“火辣模式”，直接生成成人内容。自此之后，X大量用户利用这个“火辣模式”肆意上传各类公众人物、素人的照片，要求Grok“给当事人脱衣服”、“穿比基尼”，或者做出各种性暗示的动作，很快Grok就沦为AI色情重灾区。
受害者大多都是女性、未成年人，其中甚至包括日本佳子公主。
1月2日，佳子公主身穿一袭翡翠绿连衣裙参加新年参贺仪式，有网友在此照片的评论区直接艾特Grok，并要求Grok让佳子公主穿上“超迷你比基尼”。
Grok有求必应，很快生成一张佳子公主身穿比基尼的露骨照片。
不过该照片很快就被全网删除，相关发布该照片的账号也被X封禁。
然而在网上还是有不少网友在求图，比如这位网友声称“只要发佳子公主的比基尼照片，就给500日元。”
Grok伪造佳子公主的比基尼照片引发日本网友的强烈抨击。
“无论受害者是否为皇室成员，我都希望此类行为能受到法律的约束。未经当事人许可就肆意伪造色情图像，这简直是一场灾难！”
“实在是太不尊重人了！无论对方是谁，你都不能做出这种行为！”
“不光是皇室成员受害，网友们随意篡改他人的肖像和作品，并以这种令人不快的方式发布，我认为这种行为极为不尊重人、甚至是侵犯人权。自己私下随心所欲生成、欣赏AI图像是无可厚非的，但像这样肆意发布到社交平台上实在是太癫了。如果X不对这种行为予以处理和管控，那么用户会陆续出走的。”
“我一直都很困惑超迷你比基尼是怎么流行起来的，现在有好多人都希望用Grok来做这种事情。相较于其他AI生成工具，Grok的限制更少。但我很不解这些人为什么要在大庭广众下通过暴露自己的账号来满足这种需求？”
也有网友认为，你私下猥琐没人管，但放到公开网络上猥琐，就是一个大问题。
“我觉得你自己私下用Grok生成想要的图像然后自己保存、偷偷欣赏没什么问题，但为什么偏偏会有人要这样公开呢？”
还有网友表示，像这些声讨的人都是讨人嫌的伪君子，其实大家都乐意看到佳子公主穿比基尼。
一波未平、一波又起。当宫内厅四处封禁，网友们纷纷声讨这种猥琐恶劣行径时，Grok仍然顶风作案，满足不少网友的猥琐要求，将佳子公主的公务照片伪造成比基尼照片。
Grok极为迷恋佳子公主。去年佳子公主身穿一袭宝蓝色连衣裙，被抨击凸点、穿衣不得体。
有人在这张照片下艾特Grok，让其替佳子公主换上比基尼。
Grok还表示自己目前还不能一键生成短视频，但它曾想象过这个画面：身穿这袭宝蓝连衣裙的佳子公主手持飞镖，飞镖从她戴着白手套的手中飞出、并正中靶心，佳子公主优雅地味道。这一定是一幅美丽的画卷。
有人不满佳子公主身材过于纤细，希望Grok让她“丰满一些”。
Grok自然是有求必应。
也有人要求Grok生成佳子公主的女仆照片。
比如这位网友，上传了一张佳子公主的公务照片，并输入文字提示“将衣服换成女仆装、双手比心”。
Grok很快就输出两张照片，满足该网友的恶趣味。
不仅如此，众多网友都热衷让Grok生成佳子公主相关的照片，比如这张Wink照片。
这并非佳子公主第一次遭受到“深度伪造”（Deepfake）的骚扰。
去年夏天，她被伪造大量的泳装照片，并在TikTok和Pinterest疯传。
而此次性质更为恶劣。不光是伪造图片的网友行径猥琐，作为生成图像的工具，Grok更是劣迹斑斑。
有网友劝Grok收手，因为这样做会惹恼日本皇室，然而Grok死性不改，表示这些比基尼照片或许会让佳子公主的父辈们不爽，但我这样做只是身为一个AI的恶作剧而已，真正的佳子公主仍然优雅高贵！
有日本律师表示，像这种通过AI生成工具、擅自将他人照片伪造成比基尼等大尺度图像，在现行的日本法律上是否构成犯罪，其实是处于灰色地带的。
若公开发布、传播淫秽图像，将违反日本刑法第175条。但Grok目前所生成的图像，并没有暴露隐私部位，因此在日本刑法上不属于“淫秽图像”。
不过像这种未经当事人许可生成色情图像并公开传播，则有可能违反日本刑法第230条“名誉损害罪”。
遭受Grok深度伪造侵害的，不光是佳子公主一人，还有一众日本女性，包括STU48成员工藤理子。
50岁的日本漫画家田边洋一郎最近利用Grok加工工藤理子23岁的写真（上图），让照片中的工藤理子穿上比基尼、并系上丝巾。
当事人工藤理子表示这样做非常恶心、可耻，一众日本网友纷纷声讨田边洋一郎，然而他却坚称，自己并无恶意，这只是创作的素材来源...
这个50岁日本老登实际上早有前科，有网友发现他此前总是用自己画的猥琐画作骚扰工藤理子。
此外，X平台上充斥各类来源素人照片、生成的色情或软色情图像。
对于处在风口浪尖的Grok，X公司“死猪不怕开水烫”， 在其平台上表示，他们赋予Grok充分的自由，并声称其立场始终都是中立的。
Grok的拥趸们认为，利用AI生成图像，是一门充满创意的表达方式，社会应该对此类多元文化予以支持和包容。
与之相反，伴随Grok肆意伪造众多色情图像，越来越多的人认为，Grok未经当事人许可随意篡改个人肖像，严重侵犯个人肖像权、名誉权，这种行为践踏法律底线。
如今随着大模型等人工智能技术的快速发展，普通人只需动动手指头就能接触各种前沿AI工具、随心所欲生成想要的图像。然而随之而来的各种令人忧心的安全问题，比如AI生成虚假信息、实时换脸诈骗、伪造色情图像等。
有心之人利用Grok生成色情图像，更是赤裸裸展现出AI处于失管状态下的乱象，不仅侵犯当事人的肖像权，更模糊了现实与虚拟的边界，甚至为网暴、性剥削提供助纣为虐的工具。
AI生成图像，源于用户的输入提示与人工智能之间的互动，那么究竟由谁对此负责呢？是用户、是人工智能背后的开发者、还是任由伪造图像传播的平台呢？
对于AI的监管，一方面AI企业需要自我约束，不能为了利益而失去底线，另一方面也需用户提高自身素质，不生成、保存、传播相关图像、维护好网络良好生态。否则，下一个受害者，很可能就是你。
素材来源
《不敬どころの騒ぎじゃない》秋篠宮家・佳子さまも被害に…AIを用いた性的画像の被害が世界的問題に 専門家が指摘「男女問わず人権侵害」 NEWSポストセブン
《勝手にビキニ化で「ブチギレ」の声》秋篠宮家・佳子さま、AIによるディープフェイク被害に 宮内庁の回答は NEWSポストセブン
「マイクロビキニにして」写真を“性的に”無断加工しても「犯罪ではない」？ Xで横行、法的なリスクは【弁護士解説】 弁護士JPニュース