摘要：
1. 视觉多模态简介 视觉多模态一般涵盖2个要点：视觉表征 以及 视觉与自然语言的对齐（Visual Language Alignment）或融合。 1.1. 视觉表征 视觉表征是指：将图像信息转化为深度学习模型可以处理的特征向量或向量序列的过程。具体来说，它包含以下2点： 合理建模视觉输入特征：这 阅读全文
摘要：
1. 向量检索 在向量检索中，KNN（K-Nearest Neighbors）和ANN（Approximate Nearest Neighbor）是两种最常见的方法，它们都用于根据特征向量找到数据点之间的相似性，但它们在精确度和效率上有所不同。 KNN是一种基本的分类和回归方法，它根据一个样本在特征 阅读全文
摘要：
GraphRAG GraphRAG 是一种基于图的检索增强方法，由微软开发并开源。它通过结合LLM和图机器学习的技术，从非结构化的文本中提取结构化的数据，构建知识图谱，以支持问答、摘要等多种应用场景。GraphRAG的特色在于利用图机器学习算法进行语意聚合和层次化分析，从而能够回答一些高层次的抽象或 阅读全文
摘要：
1. LLM 推理 - TensorRT-LLM 与 Triton Inference Server 随着LLM越来越热门，LLM的推理服务也得到越来越多的关注与探索。在推理框架方面，tensorrt-llm是非常主流的开源框架，在Nvidia GPU上提供了多种优化，加速大语言模型的推理。但是，t 阅读全文
摘要：
8. 推理 server side batch是推理服务的标配（以提升server侧吞吐量为目的）. 测试llama-2-13B的量化性能, 目前测试结果比较理想的是vLLM + AWQ (batch) 和Transformer + AWQ (single)。最快的是tensorrtllm awq。 阅读全文
摘要：
1. 评估榜单 1.1. C-Eval C-Eval 是一个全面的中文基础模型评估套件。它包含了13948个多项选择题，涵盖了52个不同的学科和四个难度级别。 https://cevalbenchmark.com/static/leaderboard_zh.html?ref=nav.6aiq.com 阅读全文
摘要：
1. 目标 使用Flink读取Kafka数据并实时写入Hive表。 2. 环境配置 EMR环境：Hadoop 3.3.3, Hive 3.1.3, Flink 1.16.0 根据官网描述： https://nightlies.apache.org/flink/flink-docs-release-1 阅读全文
摘要：
1. Dreambooth Dreambooth可以把你任何喜欢的东西放入Stable Diffusion模型。 1.1. 什么是Dreambooth 最初由谷歌在2022年发布，是对SD模型的fine-tune技术。可以把自己喜欢的东西注入到SD模型中。 为什么称为Dreambooth？根据谷歌团 阅读全文
摘要：
1. 前言 基于 https://stable-diffusion-art.com/ 内的教程进行翻译与整理，帮助快速上手 stable-diffusion 的使用。 2. 环境 AWS DeepLearning AMI 3. 部署Stable Diffusion web UI Web UI git 阅读全文
摘要：
Stable Diffusion原理 此文为译文，原文见： https://stable-diffusion-art.com/how-stable-diffusion-work/ Stable Diffusion是一个深度学习模型，我们会深入解析SD的工作原理。 1. Stable Diffusio 阅读全文