摘要: linux 常用命令,基础知识,常用工具。。。 阅读全文
posted @ 2014-04-12 11:52 iTech 阅读(7186) 评论(0) 推荐(2)
摘要: Python 学习总结 阅读全文
posted @ 2011-01-31 14:25 iTech 阅读(9491) 评论(10) 推荐(6)
摘要: 本系列针对Bash Shell,其他的比较流行的Shell还有Korn shell (ksh)和"Tenex C shell" (tcsh)。一 简单过程1)可以使用任意一种文字编辑器,比如nedit、kedit、emacs、vi等来编写shell脚本。ubuntu中可以使用gedit,notpad... 阅读全文
posted @ 2009-04-07 21:52 iTech 阅读(3410) 评论(0) 推荐(2)
摘要: 在提升模型强推理能力的努力上,SFT蒸馏和强化学习被社区广泛探索: 直接利用SFT蒸馏可以学习到数据中的推理范式,虽然在推理分数上的表现有所提升,但是更多是去拟合数据中的Pattern, 很难学习到数据背后的数学规律和MetaCoT 强化学习则是通过试错和尝试,鼓励模型在最大化奖励过程中学习到推理背 阅读全文
posted @ 2025-06-13 12:10 iTech 阅读(17) 评论(0) 推荐(0)
摘要: NLP and transform https://github.com/datawhalechina/happy-llm/tree/main ──────────────────────────────────────────────────────── 预训练(Pre-training) ─── 阅读全文
posted @ 2025-06-11 21:48 iTech 阅读(30) 评论(0) 推荐(0)
摘要: LLaMA-Factory https://github.com/hiyouga/LLaMA-Factory 什么是 LLaMA-Factory? LLaMA-Factory 是一个由开源社区开发的工具包,旨在简化 Meta 推出的大型语言模型 LLaMA 的配置、训练和部署过程。它提供了一组易于使 阅读全文
posted @ 2025-06-11 21:46 iTech 阅读(36) 评论(0) 推荐(0)
摘要: LLM deploy for inference (tensor parallelism, data parallelism, pipeline parallelism, expert parallelism for MOE) vLLM worker or SGLang worker or http 阅读全文
posted @ 2025-06-11 21:42 iTech 阅读(11) 评论(0) 推荐(0)
摘要: TensorFlow、PyTorch和Triton是机器学习领域常用的深度学习框架和工具,而CUDA和Google的TPU则是与硬件加速相关的技术和产品。它们在机器学习模型的训练和推理中发挥着重要作用,利用GPU或TPU可以显著提升计算速度和效率。 TensorFlow: 由Google开发的开源机 阅读全文
posted @ 2025-06-11 21:34 iTech 阅读(8) 评论(0) 推荐(0)
摘要: LLM蒸馏过程是指将大型语言模型(LLM)中的知识和权重转移到一个较小的模型中,以减少计算成本和内存占用,同时保持原有模型的性能。这个过程也被称为模型蒸馏或知识蒸馏。以下是LLM蒸馏过程的概述: 背景 大型语言模型虽然能够取得非常好的性能,但其计算成本和内存占用非常高,这使得它们难以部署在资源有限的 阅读全文
posted @ 2025-06-11 21:32 iTech 阅读(15) 评论(0) 推荐(0)
摘要: 在 Python 中,协程(asyncio)、多线程(multithreading)和多进程(multiprocessing)是实现并发和并行的三种主要方式。它们各有优劣,适用于不同场景。以下是它们的比较、使用实例和适用场景。 🔄 一、概述 1. 协程(Coroutines) 基于事件循环(asy 阅读全文
posted @ 2025-06-03 22:52 iTech 阅读(22) 评论(0) 推荐(0)
摘要: 以下是 Python 中被广泛使用的 高级功能,适用于构建复杂系统、提升代码效率和可读性: 1. 生成器(Generators) 用途:惰性求值(Lazy Evaluation),节省内存。 语法:使用 yield 关键字。 适用场景:处理大数据流、文件读取、无限序列等。 def fibonacci 阅读全文
posted @ 2025-06-03 22:39 iTech 阅读(19) 评论(0) 推荐(0)
摘要: ai-agents-for-beginners https://microsoft.github.io/ai-agents-for-beginners AI Agents are systems that enable Large Language Models(LLMs) to perform a 阅读全文
posted @ 2025-06-03 21:55 iTech 阅读(11) 评论(0) 推荐(0)
摘要: https://github.com/HKUDS/LightRAG/blob/main/lightrag/api/README-zh.md LightRAG 服务器和 Web 界面 LightRAG 服务器旨在提供 Web 界面和 API 支持。Web 界面便于文档索引、知识图谱探索和简单的 RAG 阅读全文
posted @ 2025-06-02 23:53 iTech 阅读(486) 评论(0) 推荐(0)
摘要: https://fast-agent.ai/#getting-started fast-agent lets you create and interact with sophisticated Agents and Workflows in minutes. It's multi-modal - 阅读全文
posted @ 2025-06-02 23:45 iTech 阅读(77) 评论(0) 推荐(0)
摘要: 随着大模型的能力的增强,使用像google adk类似的工具开发AI agent 变得相当容易。 ADK 旨在使开发人员能够构建、管理、评估和部署 AI 驱动的代理。它为创建对话和非对话代理提供了一个强大而灵活的环境,能够处理复杂的任务和工作流程。 simple agent: import date 阅读全文
posted @ 2025-06-01 21:01 iTech 阅读(19) 评论(1) 推荐(0)
摘要: mcp server # my_server.py from fastmcp import FastMCP from datetime import datetime import json mcp = FastMCP(name="MyServer") # 工具示例 @mcp.tool() def 阅读全文
posted @ 2025-06-01 20:16 iTech 阅读(74) 评论(0) 推荐(0)
摘要: global 与 nonlocal 的区别总结 特性globalnonlocal 作用域层级 全局作用域(模块级别) 外层嵌套作用域(函数内部的函数) 适用场景 修改全局变量 修改外层函数的变量(闭包) 是否影响局部变量 不影响局部变量,但会修改全局变量 不影响全局变量,但会修改外层函数的变量 能否 阅读全文
posted @ 2025-06-01 18:03 iTech 阅读(7) 评论(0) 推荐(0)
摘要: 以下是综合多篇文档整理的Python高级用法汇总,从语法糖到复杂特性分层呈现,重点特性附代码示例及出处引用: 一、语法糖与简洁写法(从简到繁) 变量交换 无需临时变量实现值交换: a, b = b, a # 传统方式需要temp变量 海象运算符(:=) Python 3.8+允许在表达式中赋值: i 阅读全文
posted @ 2025-04-04 11:11 iTech 阅读(100) 评论(0) 推荐(0)
摘要: 以下是一个整合 FastAPI 核心安全功能与模板渲染的完整示例,基于多个技术文档的最佳实践,包含登录、CSRF、JWT、会话、认证和缓存功能: from datetime import datetime, timedelta from fastapi import FastAPI, Request 阅读全文
posted @ 2025-04-04 10:10 iTech 阅读(35) 评论(0) 推荐(0)
摘要: 以下是一个整合 FastAPI 核心功能的完整示例代码,涵盖 WebSocket、后台任务、生命周期事件、中间件配置及会话管理。代码结构参考了多个技术文档的最佳实践: from contextlib import asynccontextmanager from fastapi import Fas 阅读全文
posted @ 2025-04-04 09:24 iTech 阅读(79) 评论(0) 推荐(0)
摘要: 以下是当前最火的 Python 异步 Web 框架的综合对比分析,涵盖性能、技术特性和适用场景,并补充其他值得关注的框架: 一、主流异步框架横向对比 1. FastAPI • 核心优势:基于 Starlette 和 Pydantic,性能可达 5k+ QPS,支持自动生成 OpenAPI/Swagg 阅读全文
posted @ 2025-04-04 08:40 iTech 阅读(243) 评论(0) 推荐(0)
摘要: 以下是2025年最流行的5个Python ASGI服务器及其核心特性与适用场景: 1. Uvicorn • 核心优势: • 基于uvloop和httptools,性能远超传统WSGI服务器,支持HTTP/1.1和WebSocket。 • 与FastAPI深度集成,开发体验极简,提供自动重载和HTTP 阅读全文
posted @ 2025-04-04 08:24 iTech 阅读(89) 评论(0) 推荐(0)
摘要: 以下是 Python 环境管理工具 uv 从入门到精通的系统性指南,基于 2025 年最新版本特性整理: 一、uv 核心优势与适用场景 极速性能 • 基于 Rust 开发,依赖解析速度比传统工具快 10-100 倍(如安装 torch 等大型包仅需几秒)。 • 并发下载和智能缓存机制,减少等待时间。 阅读全文
posted @ 2025-04-03 22:44 iTech 阅读(2370) 评论(0) 推荐(0)
摘要: Python 类型检查与类型注解:mypy 与 typing 深度解析 在 Python 动态类型语言中,mypy 和 typing 是两个提升代码健壮性的核心工具。它们通过静态类型检查与类型注解,帮助开发者在编码阶段捕获潜在错误,同时提高代码可读性和可维护性。以下是它们的核心功能、用法及实践建议: 阅读全文
posted @ 2025-03-31 22:51 iTech 阅读(109) 评论(0) 推荐(0)
摘要: WSGI、Starlette、Uvicorn 与 Gunicorn 的核心介绍及使用指南 一、技术定位与核心差异 WSGI(Web Server Gateway Interface) • 定义:传统的 Python Web 服务器与框架间的同步协议,适用于 Flask、Django 等同步框架。 • 阅读全文
posted @ 2025-03-31 22:44 iTech 阅读(144) 评论(0) 推荐(0)
摘要: 为什么选择 FastAPI? 高性能:基于 Starlette 和 Uvicorn,支持异步请求处理 开发效率:自动交互文档、类型提示、代码自动补全 现代标准:兼容 OpenAPI 和 JSON Schema 易扩展:模块化设计,支持中间件和依赖注入 以下是一个使用 FastAPI 最新特性 (0. 阅读全文
posted @ 2025-03-31 22:15 iTech 阅读(85) 评论(0) 推荐(0)
摘要: # typer_demo.py import typer from pathlib import Path from typing import Optional from typing_extensions import Annotated app = typer.Typer(rich_marku 阅读全文
posted @ 2025-03-31 21:49 iTech 阅读(9) 评论(0) 推荐(0)
摘要: 比较 对比维度​MCP(Model Context Protocol)​​Function Calling​Agent(智能体)​ ​定义 由 Anthropic 推出的开放协议,标准化 LLM 与外部数据源、工具的通信接口 。 LLM 调用外部函数的机制,通过 JSON 参数规范模型与外部系统的交 阅读全文
posted @ 2025-03-29 11:09 iTech 阅读(1071) 评论(0) 推荐(0)
摘要: npm install -D pnpm npm install -D vite pnpm create vite my-react-app --template react-ts npx vite --help vite build --base=/my/public/path/ pnpm dev 阅读全文
posted @ 2025-03-22 11:20 iTech 阅读(19) 评论(0) 推荐(0)
摘要: MCP is an open protocol that enables AI models to securely interact with local and remote resources through standardized server implementations. https 阅读全文
posted @ 2025-03-17 21:09 iTech 阅读(57) 评论(0) 推荐(0)
摘要: Service Reliability Management: A Comprehensive Overview Service reliability management is a critical practice aimed at ensuring that online services 阅读全文
posted @ 2025-03-09 11:18 iTech 阅读(21) 评论(1) 推荐(0)
摘要: https://www.harness.io/ Continuous Delivery and gitops: while CD automates application deployment, GitOps centralizes infrastructure and application m 阅读全文
posted @ 2025-03-09 11:00 iTech 阅读(3) 评论(0) 推荐(0)
摘要: https://platform9.com/blog/argo-cd-vs-tekton-vs-jenkins-x-finding-the-right-gitops-tooling/ implement GitOps with Kubernetes ArgoCD Tekton GitHub Star 阅读全文
posted @ 2025-01-19 22:23 iTech 阅读(31) 评论(1) 推荐(0)