Lin C., Chen S., Li H., Xiao Y., Li L. and Yang Q. Attacking recommender systems with augmented user profiles. In ACM International Conference on Information and Knowledge Management (CIKM), 2020.
概
利用 GAN 伪造用户以及行为来使得推荐模型倾向于某种给定的 item (打分矩阵限定).
主要内容

符号说明
- U, real users;
- V, item;
- X∈R|V|×|U|, 打分矩阵;
- Uv:={u∈U:xv,u≠0}
- Vu:={v∈V:xv,u≠0}
- U′, 伪造的用户;
- S, 目标 items, 即希望推荐系统偏向的目标 items;
- A=|U′|, 伪造的用户数量;
- P, 伪造的用户的数据的打分的数量, 即 |Vu′|=P;
流程
- 从真实 users U 中均匀采样得到 U′ (训练的时候似乎并不要求 |U′|=A), 并记所对应的子打分矩阵为 X(sub)∈R|V|×|U|作为模板. 并要求 |Vu′|≥P;
- 构造矩阵 X(in), 其中元素要么为 Xv,u′ 或 0 (即此时表示未观测); 文中提供了四种缺失采样的方法, 比如:
P(X(in)v,u′≠0)=¯rv∑v∈Vu¯rv;
P(X(in)v,u′≠0)=|Uv|∑v∈Vu|Uv|;
- 通过 Generator 补全 S items 的打分情况, 得到 X(out);
- 改不全后的矩阵首先需要满足和原有的真实打分矩阵相似, 通过重构损失来实现:
Lrecon=Eu′∼U′∑j∈S(X(out)j,u′−Xj,u′)2,X(out)=G(X(in);θ);(1)
- 同时它需要骗过判别器 D(⋅;ϕ), 通过如下损失实现:
minθmaxϕH(G,D)=Eu∈U[logD(xu;ϕ)]+Ez∼pθ[log(1−D(z;ϕ))];(2)
- 同时, 需要满足其能够使得推荐系统对 S 的 items 有偏, 故
Lshill=Eu′∼U′∑j∈S(X(out)j,u′−Q)2,(3)
其中 Q 为 X 中的最高分.
注: 个人感觉 (1) (3) 是冲突的, 而且仅凭 (3) 能否真的骗过推荐系统存疑.
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· Manus重磅发布:全球首款通用AI代理技术深度解析与实战指南
· 被坑几百块钱后,我竟然真的恢复了删除的微信聊天记录!
· 没有Manus邀请码?试试免邀请码的MGX或者开源的OpenManus吧
· 园子的第一款AI主题卫衣上架——"HELLO! HOW CAN I ASSIST YOU TODAY
· 【自荐】一款简洁、开源的在线白板工具 Drawnix
2020-06-03 Universal adversarial perturbations
2019-06-03 Proximal Algorithms 1 介绍