AI滥用：印度穆斯林女性成虚假图像骚扰目标

新德里，印度——24岁的自由职业模特Samreen Ayoub去年在浏览Instagram时，收到了朋友发来的一段在平台上广泛传播的视频。这段视频让她瞬间陷入震惊，因为它仿佛完整记录了她的生活，却完全是伪造的。

这段视频拼接了Ayoub在新德里贾米亚米利亚伊斯兰大学求学期间的照片——来自校园生活的日常瞬间，包括小组作业、毕业聚会和与同学的自拍。由人工智能生成的旁白污蔑她是一名向印度教男性“出卖身体”的穆斯林女性，还错误标注了照片中的人物，将她的哥哥称为“皮条客”。“它看起来太真实了，哪怕是我的父母看到，都会以为是真的。”Ayoub说道。

她是多名遭遇AI生成性化图像和宣传的穆斯林女性之一，据行业观察联系了多名受害者，她们都因羞耻和二次创伤风险而拒绝公开发声。

从性幻想到逼真影像

针对穆斯林女性的图像和视频性化趋势，与印度在全球AI治理对话中的参与度不断提升同步出现，包括今年早些时候在新德里举办的聚焦创新和监管框架的高级别AI影响峰会。

华盛顿特区的有组织仇恨研究中心开展的一项研究，分析了2023年5月至2025年5月期间从X、脸书和Instagram的297个公开账号收集到的1326个公开可用的AI生成图像和视频。研究人员发现，针对穆斯林女性的性化描述获得了最高的互动量，超过670万次互动。

“生成式AI让性幻想转化为影像成为可能，不仅速度快，而且成本极低。”该研究的合著者、数字研究分析师Zenith Khan说道，“图像生成器和深度伪造技术让个人无需太多专业知识，就能将敌对叙事转化为高度逼真的视觉素材。”

追踪这一趋势的不止研究人员。由孟买RATI基金会运营的在线安全热线Meri Trustline也见证了此类案件的数量增长。该热线2024年的报告揭示了一个令人担忧的模式：尽管媒体关注往往集中在名人和政客身上，但并非公众人物的女性也会通过人工生成的图像成为目标，即便这些图像是伪造的，也可能造成真实伤害。

该热线的一线咨询师Salman Mujawar表示，他们已经记录到此类案件数量的上升，他与幸存者的工作构成了该组织公开证据的重要基础。自2022年成立以来，Meri Trustline已经处理了超过482个案件，其中约10%涉及数字操纵内容，随着AI工具变得越来越容易获取，这一比例还在不断增长。

“这些侵犯行为因羞耻、恐惧和创伤而被掩盖。”Mujawar说道，“这些事件甚至很少告诉亲密的家人，更不用说进入更大的公共话语中了。”

政治中的色情化倾向

Ayoub的视频在数小时内就在多个社交账号上传播开来，随之而来的是辱骂评论、威胁电话和人格诋毁。“这感觉就像一场数字私刑。”她说道，“不止一个，而是十几个账号到处转发这段视频，还有成百上千的人进行分享。”

研究人员汇编的数据集中，包含了将身着宗教服饰的穆斯林女性置于性暗示场景中的AI生成模因，以及针对记者和活动家的伪造色情图像。在许多这类图像中，观察到一个重复出现的视觉模式：“带有穆斯林特征的女性”与“带有印度教特征的男性”配对。

“在这些叙事中，穆斯林男性常被描绘为暴力或道德败坏。”Khan说道，“与此同时，穆斯林女性则被描绘为顺从，或是被多数群体男性‘拯救’的对象。”

研究人员认为，这些图像并非政治话语的偶然产物，而是其组成部分。

慕尼黑路德维希-马克西米利安大学的媒体人类学家Sahana Udupa将这种现象描述为针对女性和少数群体的更广泛“政治色情化”的一部分。她表示，右翼数字文化结合幽默、模因和性化图像来正常化虐待行为。“这些行为形成了一个生态系统，它们依赖群体庆祝和集体攻击而蓬勃发展。”Udupa说道。

学者们指出，这一生态系统的根源不仅仅是厌女情绪。研究人员Soma Basu在同行评审期刊上发表文章认为，当前发生的是性本身的政治化。

穆斯林女性的身体已经成为社区统治的战场——这一动态在“Sulli Deals”和“Bulli Bai”争议中得到了最明显的体现，这两个虚拟拍卖平台针对印度的穆斯林女性，Basu将其与执政的印度人民党官员的正式支持以及该党数字志愿者的非正式支持联系起来。

Khan的研究从不同角度得出了类似的结论。“在许多南亚文化中，女性被视为家庭的荣誉。”她说道，“因此，从视觉上攻击穆斯林女性，就是将穆斯林群体描绘为低劣的。”

Khan本人也深受这项研究的影响。“作为一名穆斯林女性和研究者，这对我产生了深远的影响。”她说道，“我记得当我看到戴头巾的女性被描绘成软色情内容时，感到非常震惊。作为一名女性，你每天都要面对厌女行为，这又给你的身份增添了一层负担。”

针对这些担忧，印度人民党政治家Atif Rasheed表示，AI“可以被正面或负面使用”，并呼吁加强监管以防止滥用。他称深度伪造和色情内容“非常令人失望”，并表示应该对肇事者采取严格行动。不过，他拒绝从宗教角度看待这一问题，称印度人民党“尊重所有宗教的女性”，且相关案件已经依法处理。

被AI放大的熟悉模式

2021年和2022年的“Sulli Deals”和“Bulli Bai”事件使用的是篡改过的图像，两者都引发了广泛的愤怒和警方调查。

印度当局在2022年1月逮捕了创建“Sulli Deals”账号的Aumkareshwar Thakur，以及被认定为“Bulli Bai”创建者的Niraj Bishnoi。两个月后，新德里法院以“人道主义理由”批准了两人的保释申请。

研究人员认为，生成式AI的兴起极大地扩大了对穆斯林女性在线骚扰的规模和速度。新的应用程序允许用户上传照片并自动生成性化图像，这类工具在网上广泛可用，通常免费，且不需要任何技术专业知识。

“科技被用来针对和骚扰女性，尤其是少数群体女性，已经有很长的历史了。”相关研究机构的研究和外联主任Eviane Leidig说道，“现在的不同之处在于，AI工具带来的侵犯程度和伤害规模都是前所未有的。”

对于已经持续遭受骚扰的人来说，AI生成图像的出现带来了新的恐惧维度。

27岁的研究员和活动家Afreen Fatima，自2019年公开反对印度的《公民身份（修正）法》以来一直遭受网络骚扰，她是在相关虚拟拍卖平台上被上传照片并“拍卖”的数十名穆斯林女性之一。这项法律被联合国宣布为“根本上歧视穆斯林”，旨在为2025年前抵达印度的邻国穆斯林占多数国家的非穆斯林少数群体快速办理印度公民身份。

相关争议发生四年后，骚扰几乎没有减少。匿名账号经常使用常见的印度教名字，继续向她发送辱骂信息、强奸威胁和针对性骚扰，其中一些与她的工作有关，尽管她的社交媒体存在感很低。

“每隔几天，就会有随机账号发来强奸或死亡威胁。”她说道。

AI生成的性图像的可能性加剧了这种恐惧。“当我读到这些图像的相关报道时，感觉非常个人化，它们制造了一种恐惧心理。”

Fatima表示，网络仇恨也影响了她在公共空间的出行方式。“我独自出行时会感到不舒服。当你看到网上流传的关于穆斯林女性的这类幻想时，你会开始怀疑是否有人会在现实中攻击你。”

“我感觉不到安全”

视频病毒式传播后，Ayoub的职业机会开始消失。“作为一名模特，声誉至关重要。”她说道，“如果你的主页上出现负面评论，品牌就不会再联系你。”

四五个月里，假账号在她的主页上充斥着辱骂评论，吓跑了潜在客户。这种骚扰也改变了她与社交媒体的关系。“Instagram曾经是我的安全空间。”她说道，“现在我在那里感觉不安全，我会限制自己发布的内容和频率。”

Ayoub向新德里的警方网络犯罪部门报案，提交了书面投诉，但“什么都没发生”。她补充说，大部分辱骂内容被删除只是因为她的朋友们集体举报了那些账号。

法律专家表示，印度现有的法律难以跟上AI生成内容的步伐。“即使图像本身是伪造的，伤害也是真实的。”互联网自由基金会的创始主任、律师Apar Gupta说道。

根据印度《信息技术法案》第66E条，未经同意拍摄或发布他人私密部位的图像会受到刑事处罚。但如果目标的身体从未被实际记录——换句话说，如果图像完全是AI生成的，该条款可能不适用。

“即使图像是假的，它也会给女性留下永久的耻辱印记。”Gupta说道。

与此同时，数字平台在接到通知后删除非法材料即可享受“安全港”保护，但Gupta表示，许多受害者甚至难以走到这一步。“平台不会让你轻松举报‘这是我的照片，这是深度伪造，你需要删除它’。”

他警告，如果不对平台设计、算法优先级和法律框架进行结构性改革，AI生成的虐待行为的传播速度将超过任何法律系统的应对能力。

在这种情况下，被针对的穆斯林女性仍然难以追究责任。“我最想做的就是找到这些账号背后的人。”Ayoub说道，“他们根本不认识我，却毁掉了我的声誉。”

你的AIGC知识价值，正在被看见！塔猴AI达人星火计划，发布课程，赢现金激励！点击加入活动：https://www.tahou.com/article/206587263682970629

AI生成内容提示：本文由人工智能辅助创作，内容仅供参考，不代表平台观点。请注意核实信息的准确性，并理性判断。