随着诸如智能手机之类的联网设备变得越来越普遍，互联网已成为现代生活中不可或缺的一部分，但是随之而来的网络暴力却无处不在。网络暴力是一种行为现象，在互联网上发布有害，侮辱和煽动性的文字，图片和视频。它被称为“隐形杀手”。近年来，它引起了自杀和抑郁等心理破坏。层出不穷。面对广泛的在线暴力，Instagram正在采取行动打击其平台上的欺凌行为。去年，Instagram推出了评论过滤器的增强版，该过滤器使用机器学习来发现具有在线暴力行为的关键字和语言。随着公众对Facebook信任度的下降，Instagram仍然是该公司产品阵容中的亮点，它也可能受到Facebook破坏丑闻的影响。在这种情况下，使用人工智能帮助消除令人反感的内容并使Instagram成为一个拥有良好氛围的家非常重要。现在，该公司正在扩大与照片和字幕相关的类似放映的覆盖范围。最近，Instagram宣布将使用AI“主动检测欺凌言论”，一种用于检测照片和字幕中欺凌行为的机器学习工具。如果AI工具认为照片不合适或不受欢迎，它将发送给Instagram社区运营团队进行进一步审查，然后将内容发送给手动审查。去年在《连线》杂志上发表的一份报告解释了Instagram机器学习评论过滤器的一些细节，并确定该技术不适合内容审核。大规模部署人工智能的成本较低，但仍无法处理人类环境中的细微差别，这就是为什么这些新的欺凌过滤器还需要将内容发送给人类筛检者以进行最终检查的原因。没有监督的自动化是一场灾难。这个名为DeepText的系统基于人工智能系统和单词嵌入的概念，旨在模仿人类语言的理解方式。当系统解释单词时，它将尝试识别人脑中的单词并根据上下文确定其含义。 DeepText是一种内部工具，可让Facebook工程师快速对大量文本进行分类，创建分类规则，然后构建可为用户提供帮助的产品。 Instagram发言人表示，人工智能工具可检测字幕和评论中的欺凌行为，例如攻击某人的容貌或幸福。它还会比较图像和字幕，对它们进行排名和排名，以便发现照片中的欺凌行为，例如在分屏图像中对某人进行恶意比较。 Instagram还为直播视频引入了欺凌评论过滤器。过滤器可以在直播期间检测并阻止令人反感的单词。 Instagram于5月启动了过滤器，用于过滤Feed，Explore和Profile中的照片和视频评论。 Instagram表示，人工智能系统不仅分析照片标题以识别欺凌行为，还分析照片本身。一位发言人在The Verge发言时举例说明了人工智能正在寻找分屏图像作为潜在欺凌的例子，因为一个人可能会与另一个人进行负面比较。人工智能将寻找的其他因素尚不清楚，但这可能是一个好主意。当Facebook宣布它将使用人工智能时，人们立即开始考虑如何处理这些过滤器。 Facebook和Twitter也采取了类似措施，以限制其平台上的欺凌行为。 Twitter于去年10月设定了时间表，从其平台上删除诸如裸体和仇恨图片之类的内容。本月初，Facebook添加了工具，该工具允许用户一次隐藏或删除多个评论，并允许用户代表朋友或家人举报欺凌或骚扰。除了新的过滤器之外，Instagram还引入了“善意相机效果”，这听起来像是传播正面信息并增加用户参与度的一种方式。当使用后置摄像头时，效果将在屏幕上显示“多种语言的注释”。屏幕上;切换到前置摄像头，您将获得一颗闪亮的心和礼貌的鼓励，以“标记您想要的朋友”。互联网是一把锋利的双刃剑。当我们使用互联网拉近世界各地之间的距离时，我们不能忽略互联网“喷雾器”的危害。和“键盘播放器”。 Instagram这次采取的行动可以有效吗？当前的混合网络环境带来了清晰的信息流，值得期待。