数据挖掘 | 数据隐私（1） | 差分隐私 | 挑战数据隐私（Some Attempts at Data Privacy）
L1-Some Attempts at Data Privacy
本随笔基于Gautam Kamath教授的系列课程：CS 860 - Algorithms for Private Data Analysis - Fall 2020
本课的目的在于介绍一些信息加密的失败案例，介绍一些数据隐私安全的基本概念
纽约市出租车数据集泄露问题
案发经过：
- 纽约市向市民公开了一份出租车大数据集
- 其中所有数据都没有标出具体的车牌号码，而采用一个唯一标识码（medallion number）去掩盖
- 但是其中发现了一个人的收入远远高于其他出租车司机
- 经过查表\(MD5\)发现，这个人的唯一标识码（
cfcd208495d565ef66e7dff9f98764da）就是\(0\)，也就是缺失值 - 因为司机的车牌号码都是短短的几个字母，为此可以通过快速的查表\(MD5\)查出结果
问题反思：
- 有人提出不用原数据生成这项唯一标识码，而是重新生成一组随机的数字作为唯一标识码，是否可行？
- 显然是依旧存在问题的，假若你乘搭某位司机的出租车之后，记录下具体的位置以及时间及其对应的车牌号码。再重新对发布的数据集进行关联分析，极易就能找出这位司机的敏感隐私信息
网飞奖金赛
案发经过：
- 网飞举办一个奖金赛：提供训练集以向参赛者募集最为强大的推荐模型
- 网飞官方的提供的数据集都进行了匿名化处理，这是依据法律必须做的
- 但是这样的作法并非万无一失，攻击者通过用IMDb得到评论数据集（没有匿名化的），再对网飞发布的匿名数据集进行关联分析
- 即得到了网飞数据集中每一个数据的作成者
问题反思：
- 显然通过匿名化处理的数据集弱不禁风，完全不足以保护隐私
神经网络的记忆问题
采用一个模型或者函数来表示是否可以避免隐私泄露的问题？显然不可能。
攻击手段
-
针对一个基于词袋\(Y\)训练好，特定的自然语言模型\(f_\theta\)，给定一个特定的序列\(x_1,\dots,x_n\)
-
那么给出\(log-perplexity\)的定义
\[P_\theta(x_q, \dots,x_n)=-\log_2Pr(x_1,\dots,x_n | f_\theta)=\sum^n_{i=1}(-\log_2Pr(x_i|f_\theta(x_1,\dots,x_{i-1}))) \] -
这个指数在对于敏感数据时会呈现出低的分数
\(k\)-匿名化（\(k\)-anonymity）
如果说去掉一些敏感的唯一标识码，即如名字或者别的东西。只保留不敏感的伪标识符如生日、邮政编码以及性别，然后将至少\(k-1\)个拥有相同伪标识符整合在一起，称为\(k\)-匿名化（\(k\)-anonymity），如图两个表分别是\(4\)-匿名化以及\(6\)-匿名化
但是，这种隐私加密方法仍然并非天衣无缝的，假若说我们得知医院一位35岁的病人，那么依据左表即可得知他患有癌症。
