青少年人工智能裸照的迅速增加，让美国学校措手不及，法律体系也在争先恐后地寻找解决方案

　　

　　

　　洛杉矶:她说，当男孩要求在TikTok上关注她时，麻烦就开始了。这名13岁的女孩是Aliso Viejo中学的一名八年级学生，她说这个请求是在2月份出现在她的个人资料上的。

　　她的账户是私人的，她把之前的大多数粉丝都限制在朋友和家人的小圈子里。但她和这个男孩很熟悉，因为她和他一起上过几堂课。她按下了接受键。

　　女孩说，几周后，她得知男孩不仅从她的账户上截取了她的截图，而且还用人工智能软件把她的脸放在了一张不是她的裸体照片上。现在，一小群男孩在他们之间分享她的照片。

　　她的继母向卡皮斯特拉诺联合学区报告了这些照片。她说，管理人员将其中一名分享照片的男孩从女孩的课堂上拉了出来，但他继续在课外骚扰她。创造人工智能生成图像的男孩留在了她的课堂上。

　　“我觉得不舒服，”女孩说。“我不想让他靠近我。”

　　这家人说，他们后来发现，这个男孩还制作了至少另外两个女孩的假裸照，并分享了这些照片。

　　卡皮斯特拉诺联合学区的发言人瑞安·伯里斯说，学区正在调查发生的事情。该学区拒绝透露有多少学生正在接受调查。他们不愿透露有多少人遭到了假裸照的攻击。他们也不愿透露涉事学生是否会受到纪律处分。

　　“一般来说，纪律处分可能包括停学，甚至可能是开除，这取决于案件的具体情况，”伯里斯在一封电子邮件中说。

　　南加州新闻集团没有透露这名女孩及其继母的身份。

　　“落后于曲线”

　　发生在Aliso Viejo中学的事情今年在其他学校也发生了几次。今年4月，附近拉古纳海滩高中的校长在一封电子邮件中告诉家长，有几名学生因涉嫌使用在线人工智能工具制作同学的裸照而受到调查。今年3月，比佛利山庄一所中学的女生表示，她们也遭到了同样的攻击。

　　专家表示，无论全国大多数学校管理人员是否知道，同样类型的人工智能引发的性骚扰和欺凌也可能已经发生在他们的校园里。

　　“我们已经远远落后了，”约翰·皮佐罗(John Pizzuro)说，他是一名前警官，曾领导新泽西针对儿童的网络犯罪特别工作组。“在这方面没有规定、政策或程序。”

　　皮佐罗现在是Raven公司的首席执行官，这是一家非营利性公司，正在游说国会加强保护儿童免受互联网剥削的法律。他说，美国的政策制定者仍在努力追赶这项最近才向公众广泛普及的技术。

　　“有了人工智能，你可以让一个孩子看起来更老。你可以让一个孩子看起来赤身裸体，”皮佐罗说。“你可以用人工智能从一个孩子的照片中创建(儿童性虐待的材料)。”

　　就在去年，使用人工智能的强大应用程序和程序迅速流行起来。现在，任何可以上网的人都可以使用聊天机器人来模拟与真人的对话，或者使用图像生成器来根据文本提示生成逼真的照片。

　　在这一浪潮中，无数的工具也出现了，允许用户制作“深度伪造”——本质上是使用名人和政治家的面孔制作视频，使用人工智能制作动画，不仅将其放置在讽刺内容中，还放置在未经同意的色情内容中。

　　沿着这条路线，一些应用程序提供“换脸”技术，允许用户在照片或视频中把一个不认识的人的脸放在色情演员的身上。还有一些应用程序可以为任何照片中的任何人“脱衣”，将他们穿着衣服的身体替换为人工智能生成的裸体身体。

　　专家们表示，深度伪造程序刚出现时仍然很粗糙，很容易被发现。但随着技术的进步，区分真实视频和虚假视频只会变得越来越困难。

　　加州大学洛杉矶分校技术、法律和政策研究所执行主任迈克尔·卡拉尼科拉斯说:“(这些项目)比我们几年前想象的要超前好几光年。”

　　他说，人工智能生成程序的易用性确保了几乎任何人都可以使用它们来创建另一个人的逼真照片。

　　“你不需要有博士学位来设置这些东西，”他说。“孩子们总是倾向于走在科技创新的前沿。有这么成熟的年轻人来做这种事，我一点也不惊讶。”

　　来自纽波特海滩的心理治疗师克里斯汀·扎莱斯基(Kristen Zaleski)是技术滥用方面的专家，她说她还没有看到一个执法人员或学校工作人员真正了解人工智能和性暴力的危害。

　　“作为一名倡导者，我觉得我们需要做更多的工作来教育政治家和执法部门，让他们了解这个问题的严重程度及其造成的心理伤害，”心理健康团体的首席临床官扎莱斯基说。“我还没有联系执法部门，让他们认真对待这件事，或者知道这件事。我发现，我对执法部门和政界人士的很多倡导都是在教育他们这是什么，而不是让他们了解如何帮助幸存者。”

　　适用哪些法律?

　　尽管存在潜在的危害，但学生们拍摄的同学照片是否真的会被视为非法，这在很大程度上仍未得到解决。

　　直到两年前，国会才更新了《反妇女暴力法》(Violence Against Women Act)，将“复仇色情”(revenge porn)定为刑事犯罪，它涵盖了未经同意发布一个人的私密视觉描绘。但法律专家表示，尚不清楚更新后的法律是否适用于虚构的人物描述，而不是显示对他们犯下罪行的真实照片。这可能也适用于定义儿童色情。

　　洛约拉法学院临床项目和体验式学习副院长丽贝卡·德尔菲诺说:“在大多数州，这一定义不包括某人的合成、数码和亲密照片——它们被排除在外。”丽贝卡·德尔菲诺是“法律与当前事件和紧急情况的交集”方面的专家。

　　她解释说:“你必须有一个人，一个清晰的人，你看到他们的脸，你看到他们的身体。你知道那是一个人。你有一个被虐待的受害者，你拍下了他们做某事的真实照片。这些都是真的照片。”

　　多位专家引用了2002年美国最高法院阿什克罗夫特诉自由言论联盟案，该案件推翻了《儿童色情预防法案》中的一项条款，该条款禁止所有儿童色情内容的描述，包括电脑生成的内容。法院裁定该法律过于宽泛，违反了第一修正案对言论的保护;法官们阻止了美国政府禁止那些没有犯罪行为的图片。

　　“在整个视频都是假孩子的情况下，你能逮捕我并起诉我吗?”参与说。“根据最高法院的案子，答案是‘不’。”

　　到目前为止，许多州都试图解决这个问题，但他们的努力仍然相差很大。至少有10个州通过了法律，明确禁止未经同意的色情深度伪造。但只有一些增加了罚款和监禁的刑事处罚;另一些则让肇事者面临民事诉讼和处罚。

　　这使得大多数州在大多数情况下仍然没有任何禁止深度造假的法律。这包括加州。

　　今年州立法机构提出了几项法案，试图解决这个问题。但就目前而言，警方和地方检察官几乎没有办法仅仅因为制作深度造假的材料而提起诉讼，尤其是在犯罪者本身也是儿童的情况下。

　　德尔菲诺表示，警方可能会根据现有的网络骚扰和欺凌法律，对深度造假的创造者提起诉讼。但这些法律通常包括犯罪者的行为导致受害者对其安全的合理恐惧的要求。

　　这意味着学区和他们所服务的孩子的父母在应对广泛使用的人工智能的影响时没有太多的依靠。

　　“如果有家长打电话问我，‘我该怎么办?“你要做的第一件事就是去你的学区，”德尔菲诺说。“大多数学区都有与学生行为有关的行为准则，这些准则通常足够宽泛，足以解决被视为骚扰的问题。”

　　在Aliso Viejo中学，被同学伤害的13岁女孩的继母认为，到目前为止，这起事件的处理“非常糟糕”。

　　尽管报告了这些照片，但这位继母说，直到一周半后她提出正式投诉，她才收到学区任何人的消息。

　　她说，截至本周，学区还没有采取明确的行动。她说，学校还没有通知她对参与拍摄照片的学生采取任何正式的纪律措施。

　　“我觉得学校没有及时处理这件事，没有保护这些女孩，”她说，“也没有保护未来的女孩。——奥兰治县登记处/论坛报新闻社

　　×