慈善机构表示，儿童正在制作人工智能生成的虐待儿童图像

据英国一家慈善机构称，孩子们正在使用人工智能 (AI) 图像生成器制作其他孩子的不雅图像。 英国安全互联网中心（UKSIC）表示，它已收到来自学校的“少量报告”，但呼吁在问题恶化之前立即采取行动。 它说孩子们可能需要帮助才能了解他们所做的事情被认为是虐待儿童的内容。 该慈善机构希望教师和家长共同努力。 报告指出，虽然年轻人可能是出于好奇而不是故意造成伤害，但根据英国法律，在任何情况下制作、拥有或传播此类图像都是非法的，无论它们是真实的还是人工智能生成的。 报告称，儿童可能会失去对这些材料的控制，最终在网上传播，而没有意识到这些行为会产生后果。它还警告说，这些图像可能会被用于勒索。 课堂科技公司 RM Technology 对 1000 名学生进行的新研究表明，只有不到三分之一的学生使用人工智能“查看网上不适当的内容”。 该公司在线安全经理塔莎·吉布森 (Tasha Gibson) 表示：“学生定期使用人工智能现在已经很常见了。” “事实上，他们对人工智能的理解比大多数教师更先进，这就造成了知识差距。这使得确保学生的在线安全和防止滥用变得越来越困难。 “随着人工智能的日益普及，缩小这一知识差距必须成为当务之急。” 调查还发现，对于家长、学校或政府是否应该有责任向儿童传授此类材料造成的伤害，教师们存在分歧。