摘要：
vLLM: Easy, Fast, and Cheap LLM Serving with PagedAttention https://blog.vllm.ai/2023/06/20/vllm.html LLMs promise to fundamentally change how we use 阅读全文
摘要：
微调（Fine-Tuning）和检索增强生成（RAG） https://www.toutiao.com/article/7386094597421810186/?log_from=21b91ee0752_1721118518195 2024-06-30 09:05·架构笔记 微调（Fine-Tuni 阅读全文
摘要：
大模型的量化 https://developer.baidu.com/article/details/3211764 一、大模型量化的基本概念 大模型量化，简单来说，就是将深度学习模型的浮点运算转换为整型运算的过程。在默认情况下，模型使用32位浮点数进行所有预测计算，这使得模型变得非常大。通过量化技 阅读全文
摘要：
Chain-of-Thought Prompting https://www.promptingguide.ai/zh/techniques/cot#%E9%9B%B6%E6%A0%B7%E6%9C%AC-cot-%E6%8F%90%E7%A4%BA 链式思考（CoT）提示 图片来源：Wei等人（2 阅读全文
摘要：
phpMyAdmin https://www.phpmyadmin.net/ phpMyAdmin is a free software tool written in PHP, intended to handle the administration of MySQL over the Web. 阅读全文