WhatsApp将上线AI深度伪造举报热线 保障印度用户信息安全

WhatsApp即将上线一项关键安全功能，旨在帮助印度用户防范虚假信息和深度伪造内容，特别是由人工智能生成的信息。近日，Meta公司与虚假信息对抗联盟（MCA）宣布，他们将在WhatsApp上设立举报热线，以便用户能够及时报告相关情况。这一举措紧随包括Meta、亚马逊、谷歌和微软在内的20家领先科技公司在全球选举前承诺联手检测和打击有害AI内容之后。

该举报热线将以聊天机器人的形式出现，在WhatsApp平台上，任何用户都能便捷地提交疑似散布虚假信息或深度伪造的内容进行举报。深度伪造是指通过AI技术生成的高仿真图像或视频，常用于冒充他人或篡改事实以误导观众。MCA将携手Meta，合作打造这一新安全功能，并设立一个中央“深度伪造分析单元”。该单元将与多家事实核查成员组织紧密协作，对每一条被举报的消息进行评估和核实。一旦确认为虚假信息或AI生成的深度伪造内容，将会被揭穿并可能删除相关消息。举报热线预计将支持英语及印地语、泰米尔语、泰卢固语三种印度地区语言。

此番推出的举报热线服务是基于检测、预防、上报和提高公众意识这四大支柱策略，旨在提升用户获取可靠信息的便利性，并提供一个验证消息真伪的平台。预计该功能将于2024年3月投入使用。此外，Meta已在印度开展多项事实核查计划，并与11家独立机构合作，致力于在旗下平台阻止虚假信息的传播。目前，WhatsApp用户已可以标记消息给超过50家国际事实查核网络（IFCN）成员组织进行查证。同时，许多事实核查机构还运营着自己的WhatsApp频道，让用户能及时获取经过验证的真实信息。而即时通讯平台也通过限制转发消息数量上限的方式，有效抑制了虚假信息的扩散。