随笔分类 -  大模型

摘要：DoraCloud 是一款轻量级、高性能的虚拟桌面基础设施（VDI）管理平台，支持GPU虚拟化和AI加速，适用于云计算、远程办公、AI开发等场景。结合AI需求，可通过 GPU虚拟化（vGPU） 或 AI加速卡（如NVIDIA T4/A100）为虚拟桌面提供强大的计算能力，满足深度学习、图像处理、科学计算等高性能任务。 阅读全文

摘要：大模型（Large Language Models, LLMs）的技术框架涉及模型架构、训练优化、推理部署、工具链等多个层面，同时开源社区涌现了大量关键项目。以下是详细梳理： 一、大模型技术框架的核心模块 1. 模型架构 Transformer 结构：几乎所有现代大模型的基础，包含自注意力机制和前馈 阅读全文

摘要：Streamlit 是一个开源的 Python 库，用于快速构建和部署数据科学和机器学习应用。它允许开发者通过简单的 Python 脚本创建交互式的 Web 应用，而无需前端开发经验。Streamlit 的核心目标是让数据科学家和开发者能够快速将他们的模型、数据分析和可视化工具转化为可分享的 Web 阅读全文

摘要：Ollama 是一个开源的本地大语言模型（LLM）运行框架，旨在让用户能够轻松地在本地设备上部署和运行各种大语言模型（如 LLaMA、Mistral、Falcon 等）。它提供了一个简单的命令行界面（CLI），用户可以通过它下载、管理和运行模型，而无需复杂的配置或依赖云服务。 Ollama 的核心特 阅读全文