研究 & 创新

化解假新闻:新的唯彩会研究指出了方向

应对COVID-19的惊人增长, 疫苗和其他错误信息, 斯蒂文斯的研究中出现了新的诚实策略和人工智能

电脑键盘能拼出假新闻和事实

一波有害的COVID-19疫苗和其他错误信息淹没了美国的媒体和社交媒体广播, 随着病例和死亡人数再次上升,可能会造成严重的公共卫生后果.

美国国立卫生研究院传染病研究所所长安东尼·福奇对不良健康信息的增多表示遗憾, 批评音乐家尼基·米娜“传播毫无根据的信息”,“例如. 音乐家尼尔·杨(Neil Young)最近从流媒体服务Spotify下架了他的全部歌曲目录,因为该平台不愿删除含有危险健康错误信息的流行播客.

现在斯蒂文斯理工学院的教员进行了一项新研究, 学生和校友——与麻省理工学院合作, 宾夕法尼亚和其他人研究国会, 分析社交媒体并开发识别假新闻的人工智能——这表明新的战略和技术可以用来打击这种不良的健康信息.

重复错误的说法可能有助于反驳它们

毫无疑问,COVID-19疫苗的误传数量正在增加. 但是减缓其传播的新策略可能正在出现.

这是一个通信研究小组得出的结论, 市场营销和数据科学专家 哈佛肯尼迪学院错误信息评论.

教授Jingyi太阳
商学教授孙静一分析社交媒体

 唯彩会商学院助理教授孙静一和他在宾夕法尼亚大学等机构的同事们, 南加州大学, 密歇根州立大学(Michigan State University)和佛罗里达大学(University of Florida)最近分析了数千条脸谱网帖子, 从近2,000个公共账户专门关注COVID疫苗信息, 于2020年3月至2021年3月发布.

研究的帖子中大约有一半包含关于COVID疫苗的错误信息, 而另一半则主要是进行事实核查, 质疑或揭穿虚假疫苗的说法. 这些帖子在脸谱网社区获得了数百万的参与.

有大量的虚假疫苗信息被分享, 讨论和辩论, 研究小组发现,发布错误信息最多的小组有几个共同点, 包括组织得很好.

“拥有最多连接数的账户, 他们与最多样化的联系人联系在一起, 都是假新闻, Trump-supporting组, 和疫苗组,作者写道.

该小组然后审查了具体的讨论, 线程, 互动和反应,以确定策略,似乎会影响观众对健康错误信息的认知和参与.

有趣的是, 当事实核查员参与讨论,对虚假疫苗信息提出争议或辩论时, 重复 这种虚假信息在争论的过程中似乎更有效地打开了读者的心灵.

这与传统观点认为错误的主张应该是相反的 拆穿它们时重复.

事实核查员重复错误信息的帖子比关于错误信息的帖子更有可能收到评论,该研究的作者写道. “这一发现提供了一些证据,表明当事实核查包含原始的错误信息时,可以更有效地触发接触."

没有提及正在讨论的真实的虚假索赔, 另一方面, 在观众对事实核查帖子的反应中产生负面情绪.

在不重复原始错误信息的情况下进行事实核查,最有可能引发悲伤的反应,作者写道.

因此,包括重复虚假声明在内的事实核查可能是一种更有效的信息传递策略, 该组织得出结论.

他们写道:“(在争论中重复错误主张的)好处可能超过成本。.

利用人工智能发现错误的疫苗信息

唯彩会的另一个团队正在努力设计一款实验性的人工智能应用程序,该应用程序似乎能够非常准确地检测通过社交媒体传播的COVID-19虚假信息.

KP Subbalakshmi教授
人工智能专家K.P. “Suba”Subbalakshmi负责唯彩会开发的识别假新闻的人工智能

在早期的测试中, 该系统在社交媒体上区分COVID-19疫苗的事实和虚构方面取得了近90%的成功.

“唯彩会迫切需要新的工具来帮助人们找到他们可以信任的信息,电气和计算机工程教授K.P. “Suba”Subbalakshmi,唯彩会人工智能研究所(SIAI)的人工智能专家.

创造一个这样的实验工具, 苏巴拉克什米和研究生陈明轩和褚星桥首先分析了2名以上,在大流行初期的15个月时间里,发表了500篇关于COVID-19疫苗的公共新闻报道, 为每个人的可信度和真实性打分.

该团队交叉索引并分析了近25个数据,000个社交媒体帖子讨论同样的新闻故事, 开发一种所谓的“立场检测”算法,以快速确定每个帖子是如何支持或反驳那些已知是真实或虚假的新闻的.

“使用姿态检测给了唯彩会一个更丰富的视角, 帮助唯彩会更有效地发现假新闻,”Subbalakshmi说.

一旦人工智能引擎被训练, 它能够判断出是否有一条迄今未见过的推文, 引用新闻文章是假的或真的.

“任何一个书面句子都可以转化为数据点,代表作者对语言的使用,”Subbalakshmi解释说. “唯彩会的算法会检查这些数据点,以决定一篇文章是否有可能是假新闻."

研究小组发现,夸大其词、极端或情绪化的语言往往与虚假声明有关. 但是,人工智能 发现出版时间, 文章长度, 或者,一篇文章的作者数量可以用来帮助确定真实性.

该小组将继续其工作, 说Subbalakshmi, 将视频和图像分析整合到正在改进的算法中,以进一步提高精度.

“唯彩会每向前迈进一步, 不良行为者能够从唯彩会的方法中学习并构建更复杂的东西,”她警告. “这是一场持续不断的战斗."

减缓假新闻的传播

唯彩会校友Mohsen Mosleh博士.D. 2017年还调查了如何打击通过社交媒体分享的错误信息.

唯彩会校友Mohsen Mosleh
Mohsen Mosleh Ph值.D. '17, 麻省理工学院斯隆管理学院和埃克塞特大学商学院的虚假信息研究员

Mosleh, 他是麻省理工学院斯隆管理学院的研究员,也是埃克塞特大学商学院的商业教授, 最近在著名杂志上与人合作撰写了一项有趣的研究 自然 对准确性概念的思考可以帮助阻止潜在的和可能的谎言的分享,这一观点增加了可信度.

“社交媒体上关于COVID - 19疫苗的虚假信息会影响对疫苗的信心,并对许多人的生命构成威胁,”Mosleh指出. “社交媒体平台应该与研究人员合作,帮助人们对这些危险内容免疫."

与麻省理工学院和里贾纳大学的同事一起, Mosleh进行了一个大型的现场实验,特别是之前分享过低质量内容的000名推特用户, “假新闻”和其他质量较低的内容, 超党派的网站.

该团队向推特用户发送直接信息,要求他们对一个非政治标题的准确性进行评分, 为了提醒他们准确性的概念. 研究人员随后收集了这两名用户之前的时间线 在收到单个精确度微调消息后.

研究人员发现, 尽管很少有人回复这条信息, 简单地提醒社交媒体用户“准确”的概念似乎会让他们在随后的分享决定中更有鉴别力. 按比例来说,用户分享的低质量链接很少, 超党派新闻网站——比例 更多的 链接到高质量的主流新闻网站(由专业事实核查员评级).

这些研究表明,在决定在社交媒体上分享什么时, 人们经常会因为内容的准确性而分心,团队总结道 自然. “因此, 将注意力转移到准确性的概念上,可以使人们提高他们所分享的新闻的质量."

“追随领袖政治”也会造成错误信息的流动

随着COVID-19大流行改变了美国人的生活, 它还揭示了意识形态分歧和党派政治是如何影响社交媒体之外的公共信息和错误信息的——甚至在官方的政府通信中.

林赛Cormack教授
政治学教授林赛·科马克研究了国会在COVID-19和一系列其他问题上的沟通

这是唯彩会的政治学教授林赛·科马克(Lindsey Cormack)和刚毕业的柯尔斯滕·梅德林格(Kirsten Meidlinger M.S. '21, 谁对10多个数据进行了分析,2020年1月至7月期间,国会向选民发送了000封电子邮件,其中近80%以某种方式提到了大流行.

在进行分析之前, 科马克和梅德林格首先构建了一个数据集,按国会选区分列,将同一时期的COVID-19死亡总数制成表格. 民主党和共和党, 他们发现, 发送了大致相同数量的COVID通信, 政治似乎并不是这些通信频率的最初因素.

相反,成员们坚持历史趋势.

科马克解释说:“更健谈的成员似乎在面对危机时也更健谈。. “唯彩会发现,两党议员很快就与选民讨论了新冠病毒, 这就是现实, 没有党派之争, 在通信量上驱动了很大的变化."

然而,党派偏见确实影响了COVID-19的某些沟通,原因显而易见.

研究人员发现,共和党人更有可能在官方交流中使用贬损的种族术语来指代COVID-19,也更有可能推广使用未经证实的、可能有害的药物, 羟氯喹, 在每一个案例中都跟随时任总统唐纳德·特朗普的脚步.

科马克说:“这就是唯彩会所说的‘追随领袖政治’的证据.在羟氯喹的案例中, 尽管食品和药物管理局, 美国国立卫生研究院和世界卫生组织都没有发现任何证据证明它的功效——甚至发现有害影响超过了它的效用.

“当议员们在追随一名领导,而他正在推广的东西可能会杀人, 这是个问题."

这项研究发表在杂志上 国会 & 总统 2021年9月.