我的随笔

RLHF模型训练-PPO拆解

wildkid1024 2026-01-18 16:17 阅读:16 评论:0 推荐:0

[SentencePiece]Tokenizer的原理与实现

wildkid1024 2024-08-26 01:18 阅读:981 评论:0 推荐:0

[cuda][caffe]统一内存管理

wildkid1024 2024-06-29 12:52 阅读:417 评论:0 推荐:0

[LLM] LLM后量化(PTQ)总结及原理实现

wildkid1024 2024-06-29 12:50 阅读:1162 评论:0 推荐:0

[TRT-LLM] TRT-LLM部署流程

wildkid1024 2024-06-29 12:49 阅读:410 评论:0 推荐:0

生产者消费者模式下实现多batch延时推理

wildkid1024 2023-10-30 17:57 阅读:159 评论:0 推荐:0

LLM采样后处理总结：LLM的后处理的cpp实现

wildkid1024 2023-10-11 18:09 阅读:636 评论:0 推荐:0

ControlNet-trt优化总结4：onnx图修改与重建

wildkid1024 2023-10-09 14:19 阅读:600 评论:0 推荐:0

ControlNet-trt优化总结3：使用multi-stream和cuda-graph构建并行流水线

wildkid1024 2023-10-08 16:16 阅读:1637 评论:0 推荐:0

ControlNet-trt优化总结2：使用TRT-API从零构建ControlNet网络

wildkid1024 2023-10-07 17:30 阅读:489 评论:0 推荐:0