摘要：
Basic Notes for Coding ML / AI Algorithms from Scratch PyTorch Basic Notes DS / ML Basic Notes Python Basic Notes SQL Basic Notes Statistics Basic Not 阅读全文
摘要：
1 Tree 1.1 Recursion 递归三角: node, node.left, node.right构成一个递归三角，即当前节点，左子树，右子树 递: 调用递归函数是用来向下递的 归: return是用来返回给父节点的, 比如return root, return value 边界条件: 用 阅读全文
摘要：
前端框架：Next.js UI 组件：Tailwind CSS, Shadcn UI AI 集成：Anthropic Claude API, Anthropic Claude API Keys 1 Next.js 1.1 Initialization 1. For the installation, 阅读全文
摘要：
1 Introduction Github: https://github.com/microsoft/DeepSpeed ZeRO: Memory Optimizations Toward Training Trillion Parameter Models ZeRO-Offload: Democ 阅读全文
摘要：
FastAPI Starlette负责web部分(Asyncio) Pydantic负责数据部分(类型提示) FastAPI是站在前人肩膀上，集成了多种框架的优点的新秀框架。它出现的比较晚，2018年底才发布在github上。广泛应用于当前各种前后端分离的项目开发，测试运维自动化以及微服务的场景中。 阅读全文
摘要：
基本原理和概念 Docker是使用Client-Server架构模式，Docker CLient和Docker Daemon之间通过Socket或者RESTful API进行通信。Docker Daemon就是服务端的守护进程，他负责管理Docker的各种资源。Docker Client负责向Doc 阅读全文
摘要：
【GeekHour】一小时Git教程 全局配置： # 设置 git config --global user.name "username" git config --global user.email "example@gmail.com" # 查看 git config -l / git con 阅读全文
摘要：
1 Word-based Tokenizer 2 Character-based Tokenizer 3 Subword-based Tokenizer 3.1 Byte-Pair Encoding(BPE) Byte-Level BPE 3.2 WordPiece 3.3 Unigram 3.4 阅读全文
摘要：
1 Generative Self-supervised Learning 1.1 AR 1.2 AE 2 Discriminative Self-supervised Learning(Contrastive Learning) InfoNCE 阅读全文
摘要：
1 GPU Memory Usage 1.1 How to Compute How to compute GPU Memory Usage? Model size: Model Weights: 4Bytes * num_param Optimizer: 4Bytes * 2 * num_param 阅读全文
摘要：
1 Statistical Model 1.1 One-Hot 1.2 Bag of words(BOW) https://web.stanford.edu/class/datasci112/lectures/lecture8.pdf 1.3 N-grams 1.4 TF-IDF 2 Word Em 阅读全文