随笔分类 -  大模型

摘要:最近一个月,这个局面被一个叫 Jev 的闭源模型和它的开源对手 Laya 彻底搅动了。更有意思的是,这股浪潮几乎立刻冲进了 .NET 生态:先是 Laya 的两个独立移植 NLaya 和 layar 前后脚出现,紧接着又出现了两条思路截然相反的 .NET 原生实现路线——用 26B 扩散大模型"单步读取"的 TensorSharp,和用小编码器加决策头的 Sezika 阅读全文
posted @ 2026-09-28 08:45 张善友 阅读(675) 评论(0) 推荐(6)
摘要:Ternary Bonsai 2 27B 代表了低比特推理的一个真实拐点:压缩本身已经足够好(98.2% 保留率、1.72 有效位宽),瓶颈转移到了运行时基础设施:变换契约、格式转码、kernel 融合、验证方法学 阅读全文
posted @ 2026-09-26 13:05 张善友 阅读(236) 评论(1) 推荐(1)
摘要:我们总在等待一个像 ChatGPT 那样的机器人时刻。但具身智能真正的拐点,也许先发生在更不起眼的地方:一台陌生设备,第一次能把自己的能力、状态和边界完整告诉 AI;一个 Agent,第一次能把试出来的经验固化成可验证、可复用的机器技能。 阅读全文
posted @ 2026-09-02 20:36 张善友 阅读(189) 评论(0) 推荐(0)
摘要:四个案例合起来说明三件事:接入与编排成本可以数量级下降(CMU/Janelia),闭环试错和跨设备补救是真的(CMU/Tetsuwan),但物理直觉仍是硬伤(Genentech),安全必须长在模型之外。 阅读全文
posted @ 2026-09-01 06:58 张善友 阅读(285) 评论(0) 推荐(0)
摘要:三周半、40 个 PR、两条新模型产品线、一套投机解码体系、一轮安全加固——TensorSharp 的迭代节奏堪称凶猛 阅读全文
posted @ 2026-08-31 08:41 张善友 阅读(450) 评论(0) 推荐(2)
摘要:MHS 的本质不是"AI 控制硬件",而是三件事的组合:窄腰接口(read/write)降低接入门槛,设备语义(状态/操作/标签)让机器能自我介绍,分层执行让模型待在该待的位置——实时控制环之外。 阅读全文
posted @ 2026-08-30 20:27 张善友 阅读(489) 评论(0) 推荐(1)
摘要:如果你的 .NET 团队正在评估本地推理方案,现在可以把 TensorSharp 放进 PoC 清单了 阅读全文
posted @ 2026-08-29 07:54 张善友 阅读(610) 评论(0) 推荐(4)
摘要:layer split 对卡数免疫,tensor parallel 对互联敏感——决定你能不能跑、跑得快的,从来不是"3 还是 4"这个数字本身。 阅读全文
posted @ 2026-08-28 06:40 张善友 阅读(361) 评论(2) 推荐(7)
摘要:大学从来不只是一栋教学楼。在知识生产的链条里,它同时扮演着四种角色:生产资料的配置者、知识流通的枢纽、人才的培养者与认证者、长周期研究的承担者。而这页PPT的真正含义是:这四个功能,正在被逐一替代。 阅读全文
posted @ 2026-08-23 16:40 张善友 阅读(486) 评论(0) 推荐(2)
摘要:从 7 月 31 日的 DSV4(284B)到 8 月 19 日的 GLM-5.2(744B),TensorSharp 在三周内把纯 .NET 推理栈的承载上限抬高了 2.6 倍,且保持了对 llama.cpp 的逐 token 对齐传统 阅读全文
posted @ 2026-08-20 21:52 张善友 阅读(748) 评论(3) 推荐(5)
摘要:廖雪峰其官网教程列表至今仍是 Java、Python、JavaScript、SQL、手写 Spring、手写 Tomcat、区块链、Git、Makefile 九门,并无 C# 教程 (liaoxuefeng.com) 。C# 是以实战项目技术栈的形式进入他的内容体系的:5 月的串口调试器使用 Visual Studio + .NET 10 + C#(WinForms),6 月的 AsciiDraw 桌面版使用 C# + Avalonia + NativeAOT (liaoxuefeng.com) 。这一"以做代教"的转变本身,正是本报告要深挖的趋势核心 阅读全文
posted @ 2026-08-16 08:09 张善友 阅读(987) 评论(0) 推荐(4)
摘要:求稳选 LLamaSharp,求纯选 dotLLM,求全选 TensorSharp 阅读全文
posted @ 2026-08-03 07:08 张善友 阅读(1885) 评论(1) 推荐(13)
摘要:DeepSeek V4 Flash 可能是第一个成本合理且可用的本地部署大模型, TensorSharp 实现了用纯.NET 推理 DeepSeek V4 Flash 阅读全文
posted @ 2026-08-01 21:16 张善友 阅读(1027) 评论(2) 推荐(6)
摘要:这整个过程是一个持续的技术演进,而非由单一"bug"主导的灾难叙事。 Diogo的文章为这段历史提供了一个有价值的技术解读,但读者需要将其放在正确的时间语境中理解——它不是2026年的"新发现",而是对2020-2022年一段已被纠正的技术偏差的迟来复盘。 阅读全文
posted @ 2026-07-06 21:24 张善友 阅读(227) 评论(1) 推荐(0)
摘要:2025-2026 年,这场「IO 架构的设计游戏」已经升级为 Agent 框架、协议标准与编排范式的全面竞争 阅读全文
posted @ 2026-06-29 06:32 张善友 阅读(323) 评论(1) 推荐(2)
摘要:本文从技术趋势深度解读视角,解析 MAF 1.0 的五层架构设计、核心理念演化、关键 API 差异、开放协议集成以及 BUILD 2026 最新动态,为 .NET 开发者和 AI 技术从业者提供一份完整的迁移认知地图 阅读全文
posted @ 2026-06-21 15:29 张善友 阅读(1884) 评论(2) 推荐(5)
摘要:Loop Engineering 不是终局,只是下一层台阶。 但站上去看,视野已经不同了 阅读全文
posted @ 2026-06-20 12:29 张善友 阅读(824) 评论(0) 推荐(1)
摘要:本文将深入剖析A2A v1.0协议的核心规范设计,并详尽解析上述三大.NET核心框架在实现A2A协议时的技术路径、多态架构演变及其对企业级AI系统设计的深远影响。 阅读全文
posted @ 2026-05-06 22:22 张善友 阅读(570) 评论(0) 推荐(1)
摘要:这场由“智能体人工智能”引发的范式转移,其影响深刻程度远远超越了单纯借助 LLM 提高代码生成效率的范畴。它对现代企业软件架构师提出了根本性的认知挑战——我们必须彻底重塑对“应用程序”的定义边界。 阅读全文
posted @ 2026-02-24 08:48 张善友 阅读(980) 评论(0) 推荐(7)
摘要:通过将 cc-switch 的客户端编排能力与 sdcb/chats 的网关处理能力相结合,我们构建了一个强大、灵活且安全可控的本地 AI 开发环境。 阅读全文
posted @ 2026-01-25 09:24 张善友 阅读(1798) 评论(3) 推荐(4)