浅谈机器学习中的数据漂移问题
摘要：也即在训练的时候的数据和在使用模型进行推断的时候的数据分布式不一样的，二者不是同分布的。 因为很多模型都是在线下训练好的，使用的是线下的参数和损失函数，线上abtest的时候就会发现，在production traffic上的话效果就没那么好了。于是模型在被revert的同时，还会有很多工程师开始熬
阅读全文
posted @ 2022-08-28 21:37
随笔分类 - 可解释性
探索因果规律之因果推断基础（ft. The Book of Why by Judea Pearl)
摘要：https://www.bilibili.com/video/BV17b4y1W7rk/?spm_id_from=autoNext&vd_source=3ad05e655a5ea14063a9fd1c0dcdee3e 后门准则需要先理解后门路径，后门路径就是在x和y之间有一个指向x的路径，就是有一个
阅读全文
posted @ 2022-08-28 15:21
青源 LIVE 第 21 期 | 人大张静：知识图谱的神经符号推理
摘要：知识图谱可以看做是知识的一种离散符号表示，基于知识图谱的符号推理可以较为精准地定位答案。然而，符号推理对于语言的歧义性和噪声数据不够鲁棒。相反，深度学习的发展推动了知识图谱的神经推理方法，能够弥补符号推理的缺陷，但推理的复杂度受限，且缺乏符号推理优秀的解释能力。因此，当前人们尝试将符号推理与神经推理
阅读全文
posted @ 2022-08-28 09:22
青源Talk第8期|苗旺：因果推断，观察性研究和2021年诺贝尔经济学奖
摘要：biobank 英国的基金数据因果推断和不同的研究互相论证，而非一个研究得到的接了就行。数据融合，data fusion,同一个因果问题不同数据不同结论，以及历史上的数据，来共同得到更稳健、更高效的推断。敏感性分析(评价假定的方法)。多方验证。统计中的meta analysis荟萃分析。讨论这个做法
阅读全文
posted @ 2022-08-28 09:19
图神经网络的灵魂三问 沈华伟
摘要：图卷积神经网络应该相信邻居吗？ 出发点：现在的GCN改进方法都局限于对于信息聚合等等方面的改进，但是很少有人关注到邻居信息和自身信息的占比情况，有Attention方法可以解决，但是在实际中可能效果表现不佳，因为attention通常fitting训练集，训练集attention训练的好不代表效果就
阅读全文
posted @ 2022-07-01 16:11
协变量
摘要：关于协变量：我的建议是不要在这个定义上面钻牛角尖，因为“协变量”没有唯一定义，记住什么模型下什么变量可以叫“协变量”即可。 比如，线性回归的自变量可以叫“协变量”，协变量等同于自变量。线性回归模型如果是一个方差分析模型，则“无法控制”的连续变量叫“协变量”。回归模型的分类变量可以叫“因子”，而连续变
阅读全文
posted @ 2022-06-30 18:25
因果推断与因果性学习研究进展 蔡瑞初
摘要：摘 要 本文主要从因果推断方法和因果性学习这两个方面介绍和分析了目前国内外相关领域的研究进展，探讨了这两方面研究的发展方向。 关 键 字 人工智能；因果推断；因果性学习；领域自适应 0 引言 因果关系一直是人类认识世界的基本方式和现代科学的基石。爱因斯坦就曾指出，西方科学的发展是以希腊哲学家发明形式
阅读全文
posted @ 2022-06-24 23:39
因果关系发现进展及其应用--蔡瑞初 广东工业大学
摘要：因果关系发现进展及其应用--蔡瑞初 广东工业大学 https://www.bilibili.com/video/BV14i4y1Z7aS/?spm_id_from=333.788.recommend_more_video.3&vd_source=3ad05e655a5ea14063a9fd1c0dc
阅读全文
posted @ 2022-06-24 17:41
机器学习的可解释性：因果推理和稳定学习--况琨 浙江大学
摘要：分享嘉宾：况琨 浙江大学 助理教授 编辑整理：有感情的打字机、闫建飞 导读：机器学习方法已经在许多领域取得了巨大的成功，但是其中大多数都缺乏可解释性和稳定性。其主要原因是目前机器学习方法是关联驱动的，且没有区分数据中的因果关联和虚假关联。 因果推理是用于解释分析的强大建模工具，可以帮助恢复数据中的因
阅读全文
posted @ 2022-06-24 15:06
稳定学习：发掘因果推理和机器学习的共同基础--崔鹏
摘要：性能驱动、效益优先转移到技术存在的一些风险。这样才能放心的在一些领域应用。 在医疗里面关注生命安全，司法里面关注社会公平正义，交通里面关注交通安全，工业里面关注生产安全。所以，从大的发展趋势来讲，技术会从原来的performance driven(性能驱动、效益优先)转移到risk sensitiv
阅读全文
posted @ 2022-06-21 13:14
周博磊《模型可解释性年度进展概述》20200805
摘要：https://www.bilibili.com/video/BV1Tk4y1U7ts/?spm_id_from=333.788.recommend_more_video.14 热力图。 上述热力图有很大的局限，因为他只是一个causality的结果。 上图所示把unit以及channel的语义打上
阅读全文
posted @ 2022-06-09 12:08
