在互联网的浪潮中，深度伪造技术的滥用已成为一个亟待解决的严峻问题，其中深度伪造色情内容更是对个人权益造成了严重侵犯。“当我们审视亲密图像滥用问题时，绝大多数工具和恶意使用都源自开源领域，” Ajder表示。但这些工具往往始于善意的开发者，他指出，“有人创造出自认为有趣或酷炫的东西，而心怀恶意者察觉到其潜在的恶意用途，便将其武器化。”
例如，今年8月被禁用的一个代码库，围绕它形成了专门用于特定露骨用途的社区。Ajder声称，该模型将自己定位为深度伪造色情的工具，成为了滥用的“漏斗”，而主要受害者为女性。其他上传到色情流媒体网站的视频，由一个账号使用从GitHub下载的AI模型，将名人艾玛·沃特森（Emma Watson）、泰勒·斯威夫特（Taylor Swift）、安雅·泰勒-乔伊（Anya Taylor-Joy）以及其他不太知名但真实存在的女性的面孔，叠加到色情场景中。创作者还公然描述所使用的工具，其中包括两个被GitHub删除但代码仍存于其他现有代码库的工具。
此外，寻找深度伪造素材的作恶者活跃于众多网络平台，包括Discord上的隐蔽社区论坛以及Reddit上公然可见的地方，这让防止深度伪造的努力雪上加霜。9月29日，一位Redditor就利用存档代码库的软件提供相关服务。“能不能帮我处理一下我表妹的（照片）”，另一位用户这样问道。8月被GitHub封禁的主要代码库的种子文件，在网络的其他角落仍可获取，这充分显示了全面监管开源深度伪造软件的难度。其他深度伪造色情工具，如DeepNude应用程序，虽曾被下架，但新版本又不断涌现。
英国跨党派智库Demos的数字政策主任伊丽莎白·西格（Elizabeth Seger）表示：“模型众多，版本繁杂，要追踪所有版本并非易事。一旦模型开源并可供公众下载，就无法进行公开回滚。” 一位拥有13部女性名人深度伪造色情视频的创作者，将成果归功于一个知名的GitHub代码库，该代码库被宣传为另一个项目的 “NSFW”（不适宜工作场所）版本，且鼓励负责任使用，并明确要求用户不得用于制作裸体内容。“从GitHub学习所有可用的换脸AI，不使用在线服务，” 其在视频网站上的个人资料公然写道。当《连线》杂志发现这些深度伪造视频时，GitHub已禁用了这个 “NSFW” 版本。但1月10日，该平台上仍有标记为该模型 “解锁” 版本的其他代码库，其中一个获得了2500个 “星标”。
西格指出：“从技术层面讲，模型一旦公开，确实无法逆转。但我们仍可增加人们获取的难度。” 她补充道，如果不加以控制，深度伪造 “色情” 的潜在危害不仅局限于心理层面，其连锁反应还包括对女性、少数群体和政治家的恐吓与操纵，正如全球范围内影响女性政治家的政治深度伪造事件所显示的那样。不过，西格认为，现在控制这一问题还为时未晚，像GitHub这样的平台仍有多种选择，比如在上传环节进行干预。“如果你在GitHub上发布模型，GitHub拒绝，且所有托管平台都拒绝，那么普通人获取该模型就会变得更难。”
控制利用开源模型制作的深度伪造色情内容，还依赖于政策制定者、科技公司、开发者，当然还有滥用内容的创作者自身。据非营利组织Public Citizen的立法追踪器显示，美国至少有30个州制定了一些针对深度伪造色情的立法，包括禁令，但定义和政策各不相同，部分法律仅涵盖未成年人。1月7日，英国政府宣布将制作和传播露骨的深度伪造内容定为犯罪行为，英国的深度伪造创作者很快也将受到法律制裁。
