摘要: 来源:every.to/chain-of-thought/i-spent-24-hours-with-github-copilot-workspaces GitHub Copilot 就像程序员的自动完成功能。 当你输入时,它猜测你想要完成什么,并建议它 认为 你将要编写的代码块。如果它猜对了——而 阅读全文
posted @ 2024-05-08 18:26 绝不原创的飞龙 阅读(16) 评论(0) 推荐(0) 编辑
摘要: 来源:o565.com/llm-text-compression/ 介绍 大型语言模型是在大型文本数据集上进行训练的,以学习更大文档中单词的关系和上下文。这些关系是模型生成文本的基础。 最近,我读到了关于 LLMs 被训练在受版权保护的文本上并将其复制的担忧。这让我想:可以从 LLM 中提取训练文本 阅读全文
posted @ 2024-05-08 10:54 绝不原创的飞龙 阅读(24) 评论(0) 推荐(0) 编辑
摘要: 来源:ai.stanford.edu/~kzliu/blog/unlearning 由Ken Liu ∙ May 2024 撰写 ▸ 目录 1. 反学习的历史和动机 2. 反学习的形式 2.1. 精确反学习 2.2. 通过差分隐私进行“反学习” 2.3. 已知示例空间下的经验性反学习 2.4. 未知 阅读全文
posted @ 2024-05-08 10:38 绝不原创的飞龙 阅读(46) 评论(0) 推荐(0) 编辑