摘要:
AI Agent 是时下热门的一个方向,在 OpenAI 应用研究主管 LilianWeng 写的万字长文中[1],她提出 Agent = LLM+ 记忆 + 规划技能 + 工具使用。 图1 Overview of a LLM-powered autonomous agent system 组件二: 阅读全文
摘要:
关于考试的梦 弗洛伊德如何解析? 西格蒙德·弗洛伊德(Sigmund Freud),作为心理分析学的奠基人,对梦进行了深入的研究,并提出了许多理论,最著名的包括他的《梦的解析》(The Interpretation of Dreams)。根据弗洛伊德的理论,梦是通向潜意识的一条重要路径,它们包含了被 阅读全文
摘要:
最近在做RAG,因为涉及embedding计算,用到了BAAI BGE小模型,但是模型是给python调用的,需要转换为onnx格式给java使用。所以有了下面的探索: python代码: import torch from transformers import AutoTokenizer, Au 阅读全文
摘要:
pytorch的模型可以转为hf、onnx、trt,都是什么格式?几种转换有啥区别? PyTorch 模型可以转换为多个不同的格式以适应不同的应用场景和优化需求。以下是一些常见的转换格式及其特点: 1. PyTorch 模型(.pt 或 .pth) 格式:原生 PyTorch 模型保存为 .pt 或 阅读全文
摘要:
背景:弱鸡的java不支持丰富的机器学习算法。 需求:python实现了一个bert分类,希望给java代码调用。因此,使用共享内存的方式实现跨进程调用。 在进程间通信(IPC)中,性能是一个重要的考虑因素。以下是几种常见的IPC方式及其性能比较: 1. Socket通信: 优点: 跨网络和本地通信 阅读全文
摘要:
准备: docker pull docker.elastic.co/elasticsearch/elasticsearch:7.6.2 7.6.2: Pulling from elasticsearch/elasticsearch c808caf183b6: Pull complete d6caf8 阅读全文
摘要:
插入数据后的效果: 代码如下: import configparser from pymilvus import connections, Collection, DataType, FieldSchema, CollectionSchema import numpy as np def creat 阅读全文
摘要:
向量数据库对比:Weaviate、Milvus和Qdrant from:https://www.zair.top/post/vector-database-compare/ RAG系统的成功在很大程度上取决于其高效地获取和处理海量信息的能力。向量数据库又在其中发挥了不可替代的作用,并构成了RAG系统 阅读全文
摘要:
代码,一个简单的例子: # Reference: https://platform.openai.com/docs/guides/function-calling import json import os # DASHSCOPE_API_KEY from qwen_agent.llm import 阅读全文
摘要:
main.py import requests from fastapi import FastAPI, HTTPException, Depends, Request, status, Query from fastapi.middleware.cors import CORSMiddleware 阅读全文