因平台监管严沉缺失，xAI旗下谈天机械人“格罗克”（Grok）被宽泛滥用于天生色情内容，甚至涉及儿童色情内容，遭到英国、欧盟、印尼等多国强烈叱责，有关监管机构已相继启动调查或执行封禁。 据新华社报路，“格罗克”由xAI公司开发，并内置于马斯克旗下的社交媒体X平台，用户可直接挪用。近期，部门用户利用“格罗克”编纂图片和视频的职能，伪造涉真实人物的性露出内容，并在X平台上传布。受害者蕴含多名成年女性和未成年人。 “无论是出于对弱势群体的�
；�，还是对社会秩序的守护对天生式AI施加防护栏(Guardrails)是不成逆转的共识。”上海社会科学院信息钻研所所长刘炜在接受21世纪经济报路记者采访时暗示。 xAI于2025年8月向付用度户推出AI图像生成功能Grok Imagine，支持用户通过文字指令或上传图片来天生图像和视频。该工具还出格设置了“火辣模式”（spicy），可天生成人内容。 X平台上大量用户利用有关职能对图像中人物执杏装脱衣服”、“给她穿上比基尼”等指令，导致大量女性、公家人物甚至未成年人的照片，在未经自己赞成的情况下被天生袒露图像或性暗示图像。 其中，大量天生图像的素材源自真人，且未经当事人赞成。英国三一学院的一项社交媒体钻研显示，在社交平台X上由Grok天生的图像有3/4的部门均出自“真实素材”，即真实存在的女性或未成年人，且Grok对他们所进行的“变装”操作未经当事人赞成。 相比谷歌的Veo、OpenAI的Sora等其他AI视频天生产品对NSFW内容（Not Safe For Work：多指袒露、暴力、色情或冲犯等不合适公家场所的内容）设有较严格的限度，xAI 及其旗下产品Grok Imagine和AI伴侣Ani，一向因安全护栏宽松而备受表界品评。 在刘炜看来，马斯克一贯深谙流量才是真正的性命线，而争议则是最好的催化剂。允许Grok天生那些ChatGPT回绝天生的边缘内容，实上是为X Premium服务提供了一种隐秘的“荷尔蒙”。 综合新华社及全球时报新闻，Grok的问题已经受到英国、欧盟、印尼、澳大利亚等多国的高度关注，多国当局对其表白叱责并发展调查。 印度尼西亚当局1月10日颁发临时封禁Grok，以为它已“严沉加害人权尊严以及公民网络安全”。印尼通讯和数字事务部长默蒂娅·哈菲兹10日在一份申明中暗示，此举对于�
；す�家免受人为智能天生的露骨图像所带来的风险是必要的，并要求马斯克旗下的社交媒体X平台就“格罗克”所引发的负面影响尽快作出注明。 欧盟委员会讲话人托马斯·雷尼耶指出，这类内容无关“火辣”，就是赤裸裸的“违法”，它们在欧盟不应具备生计空间。他暗示，正端庄调查针对“格罗克”的有关投诉，欧盟委员会要求X平台提供更多信息。 当AI在失管状态下被滥用于加害他人权势，毫无顾忌地沦为网络霸凌与性剥削助长和传布温床，这无异于对伦理底线的公开踩踏。同时，这也径直撞上了列国对于“数字传染”的监管红线。 刘炜指出，Grok天生的不仅仅是通常的成人内容，而是涉及无大模型防护栏下的深度伪造（Deepfake）和儿童性剥削或凌虐资料 (CSAM)。这种风险不仅在于对当事人（如泰勒·斯威夫特等名人）肖像权的加害，更在于它吞吐了现实与虚构的天堑，可能成为网络霸凌和性剥削的廉价“核兵器”。 据全球时报报路，在叱责声浪与监管压力下， Grok日前仅做出幼幅调整：将图像天生与编纂职能设置为“仅限付用度户使用”，并激励平台用户积极订阅、解锁有关职能。 对此，据新华社报路，英国科学、创新和技术大臣莉兹·肯德尔称，Grok允许用户付费后还持续天生“深度伪造”色情内容的行为是具佑装侮辱性的”，“齐全不成接受”。 另据新华社报路，X平台在一篇帖子中宣称会对犯法内容采取行动，例如删除内容、永远封禁账户，并在必要时与本地当局和法律部门合作。 刘炜以为，对于X而言，持续在司法和路德的边缘试探，或许能换来一时的狂热信徒和订阅收入，但最终将导致其在全球重要市场的全面瘫痪。 “X平台面对的封禁是一个明确的信号：‘自由’是有价值的，而马斯克在为此收到账单。无论是出于对弱势群体的�
；�，还是对社会秩序的守护，对天生式AI施加防护栏(Guardrails)是不成逆转的共识。”刘炜暗示。