如何减少虚假信息泛滥?限制社交网络中的转发次数及人数
如何减少虚假信息泛滥?限制社交网络中的转发次数及人数
近日发表于 PNAS 的最新研究发现,信息的保真度取决于社交网络的深度(信息转发的次数)和广度(用户与多少人共享信息)。限制社交网络深度或宽度,可以增加短距离接收的信息比例,减少信息被更改的机会,提高接收到真实消息的比例。
研究领域:虚假信息,社交网络,社会学习
论文题目:
Learning through the grapevine and the impact of the breadth and depth of social networks
论文链接:
一、如何限制虚假信息传播
社交网络中的谣言蔓延,已经成为一个越来越无法回避的问题。然而,通过审查消灭谣言,不应该是私有企业承担的责任,事实审核的成本及过程中受到的个人偏见影响,也使得这样的策略不可行。
如果不考虑传播信息的具体内容,而是试图通过改变信息传播的网络结构,是不是有可能减缓虚假信息的负面影响呢?小时候玩的打电话游戏,第一个孩子传出的消息传了数次之后,其内容和最后一个接到消息的孩子口中的已是天差地别。社交媒体中的每一次信息传播,也会使信息发生改变。最初真实的消息,传着传着就成了谣言。
既然这样,社交媒体平台可以通过限制一则信息被传递的次数(网络深度)以及最多被传递给多少人(网络宽度),来促进社交网络中的节点通过社会学习来避免虚假信息被广泛传播。事实上,类似的策略已在Facebook和Whatapps上采用。这项来自PNAS的研究,指出了网络结构和社会学习之间的复杂联系。
二、 改变网络结构,影响信息传播
该模型假设理性个体通过贝叶斯方式不断更新自己的观点,相信自身所处网络中更多人所持的观点。如下图所示,0和1代表支持相反观点的两类信息,在信息传播过程中,会发生突变,改变信息的性质,有时传播会失败(你发送的信息没有被点开),而传播的结果是最下端的学习者根据少数服从多数,不断更新自身的观点。
改变传播网络结构,会降低远程信息的影响。模型假定信息在传播过程中,会由于有意或无意的歪曲,由真实信息转为虚假信息,因此传播次数更多的信息更有可能是虚假信息。通过限制远程信息的传播,就可以降低虚假信息带来的影响。
图2:与不限制信息传播的过程相比,限制网络深度(图b)或宽度(图c)最终收到真实信息(蓝色)和虚假信息(红色)有显著差异。图a中,学习者所在的网络中包含58条正确,63条错误的信息;而在图b和c中,正确和错误信息的比例分别为22和18以及19和12。
最后,该研究从理论上证明了上述策略的有效性。图3a指出当信息可以被传递超过8次后,假设信息最初为真,只要存在变异的可能,最终网络中的个体也会有相当大比例收到虚假信息,尤其是当网络中每个人将信息转发给10个人的时候,此时机会虚假信息会淹没真实信息。
图3. 交流网络中某节点在不同的宽度(a)和深度(b)时,收到的大部分信息为真的概率,可以看到更大的深度和宽度下,节点收到的信息大部分为真的概率更高。
图3b指出在信息由真实变异为虚假的概率小于0.05时,网络的宽度和个体接收信息大部分为真的概率呈倒U型曲线,广泛地传播能消除虚假信息的影响,但当信息被歪曲传播的概率为0.07时,传播越广,网络中个体被虚假信息主导的概率越大。
三、讨论延伸
许多社交网络的一个共同特征是,节点往往与邻居更相似,而不是那些距离它们更远的节点。限制远距离信息的传播,会加剧这一趋势,从而使得社交网络中的”回音室”效应增强。如果网络中不同部分的节点集群倾向于向不同方向突变消息,那么放松对深度和/或宽度的上限,可以帮助接收者听到来自其他组的消息。
该研究指出,如果平台从信息流量和/或用户之间的冲突中获利,那么一个以利润驱动的平台会选择更宽松的上限,而不是社会最优(减少虚假信息传播)的上限。之后的研究,可以关注利益驱动和控制虚假信息之间权衡。
该研究没有区分有意歪曲传播和无意曲解造成的不同影响,充分分析信息来源的激励机制也是一个有待进一步研究的课题。如果希望有意操纵信念的消息来源可以选择在网络中出现的位置,或者只是碰巧在网络的某些部分出现得更频繁,这可能会导致学习者接触真实和虚假信息的不对称性。此时通过设置上限可减少虚假信息病毒式传播的范围。在某种程度上,这削弱了意识形态来源产生虚假内容的动机,而不是阻止可靠来源的信息。
总结来看,该研究提出的政策在不需要考虑信息内容的情况下,改善社交网络中个体的社会学习能力,这对于旨在尊重用户隐私的平台来说是一个很有吸引力的特性。