Meta 宣布，2026 年上半年已对 Facebook 和 Instagram 上 3320 万条儿童性剥削内容采取行动。与此同时，该公司正在推出新的 AI 工具，用于查找可能被用于暗中引导用户前往非法儿童虐待材料的广告和账号。
Meta 表示，它采取行动处理的相关内容中，超过 97% 是系统在用户举报之前发现的。在印度，同期 Meta 处理了 530 万条儿童性剥削内容，其中超过 98% 在用户举报前被检测到。
Meta 称，最新 AI 工具针对的是利用看似无害的广告，将用户引向 Meta 平台之外非法内容的人。
该公司推出了新的大型语言模型系统，用于检测其称为「引路」的行为。这类广告表面看起来正常，但疑似会把用户引向网络其他地方的非法内容或其他有害活动。Meta 表示，近期发现不法分子正使用这种手法，并不断改变策略以躲避检测。广告本身可能不含非法材料，却能成为通往托管儿童性侵材料网站的入口。
因此，Meta 表示，现在会检查广告把用户带到哪里，而不只看广告本身包含什么。公司可以据此屏蔽违反规则的网站或其他目的地，并处理相关账号。
Meta 还通过额外的 AI 扫描，查找早期系统可能遗漏的儿童剥削内容。该公司称，随着逐步了解这些网络的运作方式，还会继续加入新的检测信号。
另一项新工具是「红队 AI 智能体」，用于测试 Meta 自身的安全措施。它会寻找不法分子可能利用的防护弱点。Meta 表示，这有助于在新的滥用手段变得普遍前先行发现。
此外，该公司正在改进系统，以查找曾被封禁、随后又用新账号回到平台的人。
这些新措施推出之际，Meta 仍持续面临有关平台儿童安全的压力。围绕其社交服务可能给年轻用户带来的风险，公司遭到诉讼，也受到立法者批评。今年 8 月，Meta 同意支付最高 180 亿美元，与美国 29 个州就一宗儿童安全诉讼达成和解，处理外界对儿童网络保护的担忧。
今年 Meta 已推出多项儿童安全功能，包括 Meta AI 家长控制、WhatsApp 青少年账号，以及当儿童在 Instagram 搜索自残内容时向家长发送提醒。
9 月，WhatsApp 增加了更多家长控制选项。家长可以限制青少年使用 Channels，控制谁能看到状态更新，以及谁可以将孩子加入群组；还可以选择接收特定群组活动的通知。
来源：TechCrunch
