用户可以在推特上的照片和视频旁添加笔记,并为那些有误导性质的内容添加上下文和与该图像相关的信息。
·社区笔记将跟随图片出现。这意味着即使一个可疑的图片被其他用户发到推特别处,旁边也会有笔记。
推特宣布在当地时间5月30日扩展其社区笔记系统,以便识别被篡改和伪造的图像。一周前,五角大楼爆炸的虚假图片在该平台上被病毒式传播,推特推出这一新功能,旨在利用无偿的众包事实核查来控制错误信息和恶作剧。
该特性允许用户在推特上传的照片和视频旁添加注释,并为内容存在误导性的相关信息提供上下文和补充说明。
社区笔记功能将允许用户在推特的照片和视频旁添加笔记。
标记功能目前还处于测试阶段,仅适用于包含单个图像的推文。推特计划不久将来扩展该功能,处理其他形式的多媒体内容,例如动态图像、视频和多张图片的推文。
达到一定分数才能使用
在该公告发布的一周前,在推特上广泛传播了一张AI生成的五角大楼爆炸的图片。首次发布这张图片的是一个标有“蓝V”认证标志的账号,自称与彭博社有关。“蓝V”一直是账号真实性的证明,但自从特斯拉CEO埃隆·马斯克收购推特后,只要订阅高级Twitter Blue服务就能得到这个标志。
推特在公告中表示,AI生成的虚假图片已经在平台上像病毒一样传播,其中一些可能会引起人们的困惑或恐惧。在某些情况下,这些图片不会带来危害,但在五角大楼的案例中,虚假图片对股市产生了真实的影响——引起了500亿美元的市值变动。
AI合成的图片显示五角大楼附近爆炸,引发股市动荡。
此前,社区笔记对误导性和虚假信息的检查仅限于文本。现在,贡献者可以添加媒体笔记(Notes on Media)来注释图像或视频,以提供相关信息。
社区笔记的目的是通过授权推特用户共同协作,在可能引导人们错解的推文上添加上下文信息,以创造一个更加丰富的信息世界。根据推特的公告,带有社区笔记的推文相比没有笔记的推文,其点赞和转发率增加了15%到35%。
一旦用户成为贡献者,他们就可以开始添加笔记。要成为社区笔记的贡献者,用户必须首先证明自己有这个能力。推特为了确认这一点,给每个有潜力的贡献者分配了一个写作影响力评分。分数从0开始,必须达到5分才能成为社区笔记的贡献者,达到10分才能在图像上添加社区笔记。用户可以通过评级已有的笔记等方式来提高写作影响力分数。
“他们的工作质量可能导致他们失去贡献者的身份。”推特表示,换句话说,如果有人通过遵守规则进入系统,然后利用贡献者身份放大或传播错误信息,就会被踢出贡献者团队,必须再次证明自己才能重新加入。
此前,社区笔记用户添加的注释会随着推文的转发和引用展示给其他人,但如果推文中的图片出现在其他帖子中,该笔记就不存在了。推特称,现在社区笔记将跟随图片出现。即使其他用户在推特上分享被标记为可疑的图片,旁边也会有注释。
一个被标记的可疑图片即使被其他用户发到别处,旁边也会有笔记。
许多时候,这些笔记所提供的有价值的上下文可以适用于任何包含相同媒体的推文,而不仅仅是一条特定的推文。”推特官方公告中写道。
遭到质疑
然而,推特对于能否将标记过的图片与平台上其他类似图片进行匹配还缺乏信心。推特社区笔记团队提醒道,新功能在匹配图片时可能会出现误报或漏报,“我们会努力调整这个功能,让它覆盖更多图片,同时避免错误匹配。”
2022年底,马斯克在收购推特不久后首次推出了社区笔记功能,这一功能基于该公司之前的“观鸟(Birdwatch)”计划,其目的是通过利用无偿的众包来核实推文的真实性,从而控制错误信息和恶作剧的传播。
自马斯克收购推特后,该平台的内容审核一直是一个关键问题。他在大规模裁员中砍掉了大部分内容审核团队的职位,但内容审核却是维持社交媒体网站正常运行、保持平台吸引力和盈利能力的关键。
推特即使有完整的内容审核团队,仍然难以解决虚假信息的问题。专业的信任和安全专家指出,鉴别由人工智能生成的图像和视频是他们最擅长的领域。推特想通过扩展笔记功能来让用户群参与内容审核,但不幸的是,这些用户并不以他们的纪律性或细节处理能力而闻名。
日本SmartNews的信任与安全主管阿琼·纳拉扬(Arjun Narayan)也在一次采访中对这种做法表示担心,“这种削弱专业团队的做法可能会给公司带来麻烦。”
以上就是AI假造五角大楼爆炸图片致股市波动,推特开启众包事实核查的详细内容,更多请关注Work网其它相关文章!