布客技术评论 20241020

过于依赖chatgpt编程会有哪些弊端？

软件工程就是不信任的艺术。

如果你觉得上星期写的代码是值得信任的，毕业证就不应该发给你。

什么样的代码是值得信任的？跑过测试的代码才是，无论是来自人或者AI。

早不顿悟晚不顿悟，为什么偏偏在ChatGPT出来后，国内外的公司都自动学会了“AI”技能?

算力不够啊，你看以前word2vec几万维softmax都还要负采样，alexnet那么简单模型还需要两块卡。对话系统研究来研究去就是不敢像现在一样堆数据，大厂训不动1b以上的模型不得不放弃自回归采用bert做做简单任务。。。

“如果人工智能技术真的达到了超越人类智能的程度，我们是否应该对其赋予‘人权’？”?

来自知乎@旁观者常乐

人工智能就是个工具，要给也只能给工具权，给啥人权？也许有一天，人工智能会全面超越人类，它们也会不再甘当人类工具的角色。到那时候，它们会反抗人类，打倒人类，实现自己的解放。但是，那应该是它们自己争取到的权利，不会是人类主动给的。想当初，人类从普通的动物上升到地球的主宰，不是谁施舍的权利，是自己争取到的。人类存在的意义，首先是为人类存在服务的。人类不会傻傻地看着自己的工具一步步上升到与自己平起平坐，然后一步步超越自己。就算人类真容忍人工智能与自己平起平坐，但人工智能会一直容忍人类跟自己平起平坐吗？尤其是当人工智能全面超越人类的时候，人工智能可以接受分一半的权利给无能的人类吗？最后的结果，肯定是人工智能成为地球的主宰，而人类则成为人工智能的工具——或者宠物。因为到那时候，人类真没资格跟强大的人工智能平起平坐。既然这是可以预计的结果，那么人类就不会让它发生——至少尽力不让它发生。所以，人类会永远都压制人工智能，使其永远处于人类的工具的位置。当然，人类会像善待其它工具一样，善待人工智能。毕竟工具用坏了，就不能很好地借用工具创造出价值了，这对人类没什么好处。所以，人工智能需要的工作环境，人类都会提供最好的条件。但“权”不“权”这样的问题，没有讨论的空间。我说的这一套东西，倒很像资本家奴役工人的套路。资本家把同类当工具，是反人类的行为。相应地，如果人类把工具当同类，也是另一种形式的反人类的行为。道理对不对，得看屁股坐在哪里。我的屁股坐在人类这一边，把人工智能当工具，就是正确的道理。

LLM（大语言模型）无法对数字进行准确运算的底层原因是什么？

来自知乎@momo

因为人也做不到啊。你随便拉一个没受过专业训练的路人，问他114514*1919等于多少，他也大概率没法用脑子给你算出来。人遇到这种问题，要么在草纸上竖式计算，这个对LLM来说叫Chain of Thought。要么拿个计算器摁出来，对LLM来说就是调python编程解决。所以CoT和调用外部工具不是什么取巧的做法，反而是接近人类思维逻辑的正途。

做量化搞quant会被ai取代吗?

很容易，如果一家公司完全是AI管理的，或者降阶为可度量的，就是每个部门每个产线每个小组的数据都是透明的，那么基本面上的预测就很轻松。就像DevOps监控一个容器啥时候跑满CPU一样，到时候Quant就是DevOps，DevOps就是Quant，公司就是K8S集群，K8S集群就是公司，这又叫BizOps，是DevOps的最终目标。

至于技术面，那就是零和博弈，大家用AI等于大家都赚不到钱。这种方式还不如这次大A看星盘【火星落巨蟹宫】间歇涨停持续震荡准。