Read List
想不到好的分类方法, 以分类来做导航
总结一个相对较贴合主题的标题
alter1 代表有待修改或总结.
AIGC AIGT AIGI
GPT 会替代谁, 谁又能在这个时代脱颖而出, 普通人如何适应这场变革
个人总结:
总结了工作类型, 以不同类型分述 GPT 能做哪种类型的工作, 会替代哪种类型的工作. 以及这个时代是 solopreneur 兴起的时候. 其中还提到了普通人面对 AI 这场浪潮应该怎么做 和 自己对于写文章的一些见解: 建议锻炼想象力, 创造力, 多写文章, 做自己的 CTO.
作者总结:
1.ChatGPT会替代大量职位,我们需要具备差异化能力:想象力、决策和沟通能力,做提出问题的人
2.传统的人才培养体系将失效,我们需要为自己设计培训系统,基于反馈不断精进
3.2023将是个体企业家元年,机遇会给到有创意+懂工具+懂商业的复合型人才,个人创作者需要进行升级
What Is ChatGPT Doing … and Why Does It Work?
https://writings.stephenwolfram.com/2023/02/what-is-chatgpt-doing-and-why-does-it-work/
个人总结:
什么是模型:如何建立模型-伽利略
类人任务模型:试图建立模型-识图
神经网络:权重带来不同的结果-猫
神经网络训练:其原理依旧不明-用神经网络解决更复杂的问题比解决更简单的问题更容易
神经网络训练的实践与知识:学习与神经网络的相似性
足够大的网络:基础为网络+数据
中小学教师ChatGPT的23种用法
https://mp.weixin.qq.com/s/o9XWj1nXFAfxPYWkcJLkiQ
主要介绍 AI 在教育领域的用途, 分列了多个适用场景.
关于 AGI 的思考
https://anotherdayu.com/2023/5048/
每天坐地铁都在偷偷观察别人?人家也盯着你呢!
摘抄:
隐形斗篷错觉: 指人们倾向于认为自己会比一般人更常观察别人, 而觉得随机某个人对自己的观察会较少
为什么会有这种错觉?: 人类那根深蒂固的自我中心主义——太把自己当回事了
聚光灯效应: 指如有个人的外表变化, 会认为自己获得的关注变得高于平时
两效应是并行不悖的: 通过试验发现隐形斗篷错觉和聚光灯同时存在, 可能的原因在于人们总是能很容易意识到自己在观察别人,却很难捕捉到他人观察自己的目光,这加剧了偏见本身。
在多数人的生活中察言观色可以帮助我们预测别人的行为及态度, 也许有助于我们更好地在社会上生存。
研究者指出,人们总是更愿意相信自己获得了更多关于别人的信息,而非相反。这种“掌控世界”而不被世界掌控的感觉,可能给人带来了某种心理上的安全感。这可能成为人们愿意躲在隐形斗篷错觉中生活的动机之一。
总结
通过试验指出两个效应并不相悖, 原因是人类的认知偏见, 可能是人类喜欢掌握更多信息, 提高自身心理上的安全感
Towards artificial general intelligence
https://anotherdayu.com/2023/5048/
摘抄:
AGI 和翻译
在有 AI 辅助下无障碍交流依旧有必要学英语, 它能扩充我们的性格和思维
小思考:随着人工智能的普及和语言的统一,我们是否会失去多样性,导致思维模式的趋同?这是否会限制我们解决问题的思路,甚至导致思维的极端化?
AGI 和总结
应该读那些书, 重视阅读的本质, AI 只能总结内容, 不能替我们阅读.
AGI 和写作
读者关心的是优质内容, 不是由谁谱写, 但个人写作风格依旧重要, 未来语言的表达能力依旧是重视的稀缺的
思考
AGI 实际上是一种反「再生产」的技术模式,是一种逐渐磨平信息差的工具
Ai 是一种「毒药」,短期收益显而易见,但长期的负面影响却是不可知的,可能需要十年以上的时间才能被充分识别
技术普及之前, 需要多方面的审查才能让其步入社会, 但现在的科技迭代速度已经逐渐快过我们理解或思考的发展速度。批判性和系统性思维模式在未来会变得越来越珍贵。
关于未来畅想:
优化图像、文本、音频算法;
以专业知识构建知识图谱作为 AGI 的骨架,AGI 的发展同时能减轻生成知识图谱的成本;
能够自生产知识图谱;
通过符号学,将图像、文本、音频融合,这三者相互转化的过程,实际上就是思考理解想象的过程;
通过脑机接口的数据,增加人工智能的感受力;
在人工智能领域可能与特斯拉合作, 脑机接口使人工智能如何能够对我们的状态感同身受.
ChatGPT:打破生物与非生物的界限
摘抄:
ChatGPT 带来的变革无法想象, 就人类「时间尺度」而言,一个关键的拐点是语言的诞生, 而文明不过是在语言的符号化基石所构建起来的。
科学和技术是相辅相成:iPhone 犹如人类器官的延伸,而对话式 AI 将直指认知层次的深处
创新是一扇不断开启的门,鸟类源于恐龙,AI 源于文字和语言
经济是自组织的、非零和,世界的进步不会被任何人阻挡。
《挽救计划》如果人类不是视觉向动物,很可能不会发明计算机,那么,AI 也不会以对话体形态诞生
后 ChatGPT 时代之所以令人神往,其中一个根本意义在于说,人类和机器进行「创造的界限」被模糊了。
也许可以将对话式 AI 看成是人类创造出的「第三种遗传密码」:
它会自我学习,推动时代高速变革,在打破生物与非生物的界限上,在知识无穷性的方向,一路狂奔。
这些剧变,必将带来强烈的时代阵痛。创造的同时,重新审视「适应力」与「复原力」的时候到了
summaries:
万字长文:AI产品经理视角的ChatGPT全解析
摘抄
触动: 如果以旧技术理解 GPT 会认为他的背后是由复合Agent组合起来, 事实上Siri、小爱、小度,小冰甚至包括各个平台的客服机器人都是这种模式
ChatGPT的技术原理: 对输入的字进行最高概率的预测, 文字游戏. 而在这场游戏中Bert和GPT面向不同方向,
BERT:双向 预训练语言模型+fine-tuning(微调)
GPT:自回归 预训练语言模型+Prompting(指示/提示)
预训练语言模型」
以前的中间任务: 像中文分词,词性标注,NER,句法分析等NLP任务。他们本身无法直接应用,不产生用户价值,但这些任务又是NLP所依赖的
现在的实现方式
语料数据: 是将海量的文本语料喂给模型进行学习, 在这其中模型对词性、句法的学习自然而然会沉淀在模型的参数当中
参数: 参数就是沉淀下来的AI对这个世界的理解,其中一部分沉淀了Agent对各类语法、句法的学习(例如应该是两个馒头,而不是二个馒头,这也是中间任务为什么消亡的原因)。而另外一部分参数参数则储存了AI对于事实的认知(例如美国总统是拜登)。
「双向 VS 自回归」
双向 指这个模型在“猜概率的时候”,他是两个方向的信息利用起来同时猜测。类似英文的完形填空
自回归 就是猜概率的时候从左往右做预测,不会利用文本中右侧的内容
基本理念的区别导致BERT在之前更擅长自然语言理解类任务(完形填空),而GPT更擅长自然语言生成类任务(聊天、写作文)
「fine-tuning VS Prompting」
fine-tuning: 微调是指模型要做某个专业领域任务时,需要收集相关的专业领域数据,做模型的小幅调整,更新相关参数
Prompting:是指当模型要做某个专业领域的任务时,我提供给他一些示例、或者引导。但不用更新模型参数,AI只是看看。
区别:这种模式下,模型的参数不会做任何变化升级,这些数据就好像仅仅是给AI看了一眼
不可思议吧,但他成功了!而更令人疯狂的是,到目前为止,关于prompt明明没有对参数产生任何影响,但确实又明显提升了任务的效果,还是一个未解之谜。暂时而言大家就像程序员对待bug一样——I don't know why , but it work lol .
这种Prompt其实就是ICT(in-Context Learning),或者你也可以称为Few shot Promot,用大白话说就是“给你一点小提示”。
同时还有另外一种Promot,称之为Zero shot Promot。ChatGPT就是Zero shot promot模式,目前一般称之为instruct了。
"在输出答案之前,你先每一步都想一想"。就只是增加这样一句话,AI的答案效果就会明显提升。
比较靠谱的猜测是这句话可能让AI回想起了学习的资料中那些推理知识好像前面都会有这句话。
然后这一切莫名激活起了他死去的记忆,不自觉开始仿造那些严密的推理过程中一步步推导。而这些推导会将一个复杂问题分解成若干子问题,AI因为对这些子问题的推导,从而导致最终答案效果提升。
GPT牛逼在哪里
他展现出了通用型人工智能的潜力。
GPT可以从NLP领域走向其他AI领域呢, 在去年年中爆火的AI绘画,其中一个关键技术门槛其实就是Text-图像的转化,这同样是来自OpenAI所开源的CLIP模型实现。
GPT在图像领域在多模态如音频、视频,本质上也能转化为Text-everthing的问题去求解,从而让大语言模型发挥成吨的威力。
Promot模式相较fine-tuning更具生命力
fine-tuning的痛点: 1. 专业数据标注 2.部署大语言模型
Promot 接入公开的大语言模型服务, 不需要太多的数据量,不需要对模型参数进行改动
GPT开始尝试讨好人类,并成功了
成功的原因: 1.创建人类偏好数据 2.训练一个回报模型 3.通过强化学习循环整个过程
ChatGPT的复现依托于大模型
1.基于instruct GPT复现(ChatGPT的姐妹模型,有公开paper) 2.接入 OpenAI 接口复现
ChatGPT目前的能力存在缺陷
1.结果不稳定, 2.推理能力有限 3.知识更新困难
ChatGPT所代表的大语言模型应用方向
模型服务: 孵化大模型, 开放接口, 支持二次tuning,
2B垂直工具: 主打生成内容, 受益于对SaaS付费的接受度, 瞄准了明确的用户群——电商从业者
C端娱乐类: 一.可供能力落地的C端场景, 单纯聊天是没有价值的 二.找到商业模式突破成本线(novels, 娱乐,社交)
AI产品经理能做什么?
商业层: 启动一个ChatGPT项目,用户群是什么,商业模式是什么,壁垒在哪里,演进的步骤是什么?
战术层的问题: 产品做出来了,甚至免费运作一段时间了,那么接下来产品怎么定价?价格阶梯如何设置?个体消费者和企业消费者的价格会不同吗?渠道服务商的价格和直售的价格一样吗?我的成本线是多少,盈利线是多少?
技术层: 技术层次的深浅: 1. 取决于产品的技术实力 2.取决于需求的目的 3. 取决于你和算法团队磨合出的边界
铭记基本原则说明白你这个需求的背景、目的、价值
应用层: 产品细节, 提高用户体验, 手机数据.
增长层: 1.2B: 商业层,你需要做产品定价,做渠道政策,做客户成功,并打磨你整个销售链路,找到薄弱点优化他
2.2C的增长产品是一个非常独立细分的行业。可以通过投放,SEO,新客进入,老客留存,社交裂变等等命题去做努力,反正核心就是拉更多的人赚更多的钱。
2B是多用户下关键决策人掌握公有资产进行付费判断,而2C是用户个体掌握私有资产进行付费资产。
站在局外做产品建议是很扯淡的事情。产品的魅力在于根据有限的资源和环境,选择局部最优解来推动demo慢慢成长。如果不在局内的话,很多建议和迭代我都倾向于不公开,否则局内人看起来会很蠢。
比如说觉得对话不智能,需要提升智能,建议接入GPT3.0。那么会不会这个产品的受众其实不那么需要智能,或者他们的需求无法与接入GPT3.0的费用平衡呢?这个需求有可能不是一个技术问题,而是一个商业问题。所以教张小龙做产品其实是个伪命题。
summaries:
讲解了旧的人工智障和 GPT 实现方式的区别(agent). 与 AIGT 的技术原理(Promot与 finetunning)与优势范围, 不过过于特点化了, 实际两个 AIGT 应该都支持这个功能. 对于 GPT 回忆的猜测是个很新颖的点. AGI 是未来但现在依旧不具备替换人类的实力. AI 方向的商业机会, 2B, GPT的迭代速度太快, 可能基于数据微调的模型, GPT只是升一次级就全方位的成长, 就能超过所有的努力, 2C是个不错的方向但如何提高竞争壁垒依旧是问题.最后站在局外做建议思考的同时, 又身临实际场景考虑到了最终的伪命题
alter1
社交媒体、ChatGPT、心理健康
摘抄
社交媒体,深度影响了欧美国家青少年儿童的心理健康
但联想到ChatGPT, 技术迭代的速度, 已逐渐快过我们理解或思考的发展速度,伦理学、法律、政策早已跟不上了
《赛博朋克边缘行者》中的人物每被强化一次,身上的肉体就少一些。慢慢的,肉体和精神逐渐跟不上科技附加在他们深深的变化,最后是永久的癫狂。
任何在我出生时已经有的科技都是稀松平常的世界未来秩序的一部分,任何在我 15-35 岁之间诞生的科技都是将会改变世界的革命性产物,任何在我 35 岁之后诞生的科技都是违反自然规律要遭天谴的
summaries:
如果科技出现在我刚出生前, 这个科技是伴随我成长的一份子. 如果这个科技出现在我退休后, 我能静静的看着它成长, 看着群雄并起. 但这个技术出现在我努力或者辉耀的时刻, 它会改变我接下来的生活, 如果我不接受, 我就会被淘汰. Cyberpsychosis 将是我的归宿.
【人机关系书单】当人类谈论机器时,其实是在解剖自己
凯文·凯利在《失控》一书里讲述过两位 AI 研究先驱的对话:
马文·明斯基:我们要赋予机器智慧,让它们有自我意识!
道格拉斯·恩格尔巴特:你要给机器做那么多事情?那你打算给人类做点什么呢?
前者致力于增强机器智能, 后者强调机器如何赋能人类
当机器能说所看,还能理解人类语言,并且能够与人类持续对话,这难道不是机器文明出现的标志吗?在几乎看得见的领域,人类都无法与机器相媲美,人类文明是否也走到一个临界点?
推荐了有价值阅读的科幻书单
AGI 前夜,聊聊 AI 会如何改变 UI 设计
摘抄:
AI 发展速度太快, 起初是认为 AIGC 会提高生产力, 但没想到颠覆的是整个 GUI
本来人们都认为在 GUI 诞生后下一个即将会改变人机交互格局的技术是 VR. 不久的未来的 UI 将被 AGI 技术的特性所重塑
反 AI 群体
工业革命, 保守立场的手工业者掀起了「工艺美术运动」,他们排斥机器生产,崇尚当时难以被机器生产的美术风格,直到后来机器生产彻底成为主流,才逐渐消失在历史中
而当下, 如果 AI结合产业走不通, 一定有人利用它们的情绪发掘反 AI 商业机会
UI 设计师的未来
短期来看 AI 技术仍不完善, 但长期来看, 一个新手就能有资深设计师的能力, 技能的格局会被改变。
技能的格局改变不是 AI 时代独有的,这是技术发展的普遍规律。得意于硬件的发展与高级编程语义的进步,已经不再像 30 年前的程序员一样需要熟悉汇编语言、计算机体系结构、抠寄存器才能开发软件,可以说目前绝大部分的程序员的水平就是曾经的入门水平,但是正因为入门门槛的降低,程序员群体的规模才能得以扩大。
但是这不是入门岗位与资深岗位的零和博弈,当入门岗位就达到原本资深岗位的生产力时,意味着成本的降低,行业更有可能会发展扩大。AI 发展, 数字产业将更进一步的融入社会,会有更多的人机交互场景与需求,虽然那时的 UI 设计的工作或许与现在不太一样,但我们对 UI 设计在未来的发展非常乐观。
summaries:
技术的更新换代带来的人才流动是必然的, 我们需要在这场战斗中保持乐观与战斗力, 找到适合自己的战场.
技术发展的普遍规律: 随着技术的发展, 难度降低, 成本降低, 基础人才需求缺口更大, 这不是零和博弈.
Replacing Middle Management with APIs
观点: 随着技术发展,软件层及 API 层开始取代中层管理人员
例子: uber, 传统的出租车公司需要中层管理人员来安排和调度司机、处理客户订单和处理日常运营事务。但在Uber这样的平台上,这些任务由软件层自动完成,API直接派遣司机从一点到另一点,大大减少了中层管理的需求
理性分析技术的更新换代带来的影响:
- 提高生产力与就业率, 这些新的软件服务雇佣了大量的人类工人,优化了他们的产出、生产力和质量,同时压低了价格。
- 导致了劳动力市场的二元化和工人职业发展的局限性, 这种自动化调度与优化的机制使得人工劳动者(如司机、设计师等)成为一个由软件层控制的庞大系统的一部分。通过API,劳动者与公司之间的连接变得更加匿名化和标准化,失去了人际互动和个性化管理的机会。这也导致了工人无法获得提升职业发展的机会和培训,并且软件层以上的管理人员与软件层以下的工人之间存在巨大的鸿沟。
自动驾驶替换人工已经是必然, 驾驶员们走的可能是临时的、死胡同的职业道路。对于一些喜欢驾驶和工作灵活性的司机来说,目前这可能没问题。但当自动驾驶汽车上路时,驾驶作为一种职业几乎会在一夜之间消失
从现在国内的超级 APP来看, 未来软件层和API将实现更高级别的整合,通过自动化和编程来处理现实世界中的复杂数字化任务. 而随着软件层越来越厚,API 之下的工作和 API 之上的工作之间的差距越来越大。经济激励措施将推动 API 之上的工程师将 API 之下的工作自动化:自动驾驶汽车和无人机送货肯定在路上。培训与上下社会群体的差距可能意味着新的自动化技术会导致突然的大规模失业和对补贴培训的需求激增。我希望我们准备好了。
summaries:
这篇讲的内容与上一篇辉映, 即人力必定更新换代, 可能会有更多的工作机会, 但是对于一些普通家庭来讲, 这意味着重大变故, 数以..万记的劳动力冲入市场, 在如今这个经济下行的年代来看属实不乐观, 阵痛已是必然, 且看谁会摔死吧.
此文章站在了更具体的角度来看待问题, 代入了 API 的角色很惊艳.
原研哉的Exformation哲学
原研哉说:『由于信息的供应已经超量了,达到一种我们已无法确知的程度,知识不再作为一种激发思考的媒介起作用,而淤积的信息就像没有发芽的种子,被降到一种模糊的状态,说不清它们是死了还是活着。』
Design Details & Tricks
产品
我们终究存于生活这个生命持续通道里,并且试图改变这个通道的坚固、包容程度。于是有了人造物,有了设计,有了系统化的产品。
New beginning
https://codechina.org/2015/06/second-hand-knowledge/
信息会进化或衰减, 生活充斥二手信息: 比如教科书里抄袭先进国家的故事,
思维可以塑形语言, 同时语言也会塑形你的思维, 读原文要代入自己的思考, 理解作者的意图, 亲自动手试验, 这才是一手信息.
界定:无需, 能引发思考, 有事实支撑, 都是可看的
https://codechina.org/2022/10/no-choice/
走一步看一步, 现在没有很好的选择, 准备好抓住机会
https://codechina.org/2022/10/two/
两种人: 克隆岛的娱乐至死的人, 和思考的人
https://codechina.org/2012/12/book-history-4/
起点的成功, 追更模式(享受每天一章的服务), 盗版的畅行: 压制, 盗版晚出来销量会上升. 销量不好的书: 简短, 内容扣子
声称中立, 更偏激.
笨蛋过渡自信, 聪明人对自己充满怀疑
1.列出反方, 搜索它, 思想碰撞
2.面对错误
3.异议网络
谈话, 赞同观点 再 说出单一理由, 问句引发对方思考
waitlist
现场直击 TikTok 美国国会听证会:难以回答的问题、日渐收紧的包围圈
OpenAI CEO 详解 GPT-4与AI的未来
“公知”,你到底有什么用?
https://mp.weixin.qq.com/s/eQBXl53-CH5KmXmd5D_bhQ
How to Learn English with TV Series and Movies (Best Methods)
Project Xanadu、区块链 和 ChatGPT
https://telegra.ph/为什么管理者应该像黑客一样去思考-04-18-2
DAO
https://mp.weixin.qq.com/s?__biz=MzA4NDk5OTgzMg==&chksm=87d6d2b6b0a15ba0304b0d08547057f3ebdd77da4f6d1b3571e140dc332d8d168c42ecf52af5&idx=1&mid=2650593601&mpshare=1&scene=1&sharer_shareid=93b885adfe0da089cdf634904fd59f71&sharer_sharetime=1678410310842&sn=18de11b8d680e73948c2d8bd75ee4cae&srcid=#rd%26wxwork_userid%3DFanBing
https://mp.weixin.qq.com/s/BdaoNsgRcDZH_N502n-kHQ ChatGPT Prompt工程:设计、实践与思考
https://jina.ai/news/auto-gpt-unmasked-hype-hard-truths-production-pitfalls/
https://report.iresearch.cn/report_pdf.aspx?id=4166&deviceType=mobile
https://mp.weixin.qq.com/s/FrCbX3DpJJaBpzDn4SrqfQ stable deffusion 入门
https://mp.weixin.qq.com/s/_ZvyxRpgIA4L4pqfcQtPTQ 大模型世界观
index
https://m.okjike.com/originalPosts/63e32902c0888a5cd9c50313?s=eyJ1IjoiNTllNTZkZWMzNTMzNWYwMDE1OGE3YTU3IiwiZCI6Nn0%3D
https://m.okjike.com/originalPosts/63bb544811a9692656a73968?s=eyJ1IjoiNTllNTZkZWMzNTMzNWYwMDE1OGE3YTU3IiwiZCI6MX0%3D
https://www.zhihu.com/people/YJango
https://mp.weixin.qq.com/mp/appmsgalbum?__biz=MzI3ODUwODgyNw==&action=getalbum&album_id=2003927076206100486#wechat_redirect
https://www.economist.com/essay/2023/04/20/how-ai-could-change-computing-culture-and-the-course-of-history
· DeepSeek “源神”启动!「GitHub 热点速览」
· 微软正式发布.NET 10 Preview 1:开启下一代开发框架新篇章
· C# 集成 DeepSeek 模型实现 AI 私有化(本地部署与 API 调用教程)
· DeepSeek R1 简明指南:架构、训练、本地部署及硬件要求
· NetPad:一个.NET开源、跨平台的C#编辑器