SeisGPT是国际首个地震工程领域科学大模型，致力于解决建筑群地震响应的实时预测难题，拥有1.5B的模型参数量。SeisGPT能够基于建筑结构信息和地震动特征，直接预测建筑群中大量建筑结构的响应，有效解决了不同建筑间响应预测难以迁移的关键科学问题。 ...

Transformers 框架支持多种 NLP 任务，如何高效使用 Pipeline？本文从零开始，逐步介绍 Transformers 框架中的 Pipeline 和任务配置。通过实际案例和源代码分析，帮助你快速掌握 Transformers 框架的核心功能…… ...

0 前言 今天我会首先解释为什么 LLM 的部署很难，因为许多人可能并不理解其中的复杂性。接着，我会分享七个提高 LLM 部署效果的技巧和方法。 1 为啥 LLM 部署困难？ “最近在忙啥？” “我一直在让 LLM 服务变得更简单。” “LLM 部署难吗？不是直接调用 OpenAI API 就行？” ...

大家好啊，我是董董灿。 今天用不到 30 行代码，带你调用 OpenAI 的模型，同时在网页端部署一个可以用来聊天的聊天助手。 下面是我做成之后的助手截图： 我们话不多说，直接开始。 1、搞定 OpenAI 模型的接口调用 OpenAI 的模型接口的调用可以通过 from openai import ...

4 数据库 关系型数据库 关系型数据库，或称为 SQL 数据库，是结构化的，具有预定义的模式，类似于存储电话号码和地址的电话簿。SQL 数据库以行和列的形式存储数据。每一行包含关于单个实体的所有信息，每一列则保存所有分开的数据点。常见的 SQL 数据库包括： MySQL Oracle MS SQL ...

太长不看版: 许多 LLM (如 gemma-2-9b 、 Mixtral-8x22B-Instruct-v0.1 等) 苦于缺乏对应小模型，而无法适用 辅助生成 方案。本文，我们将介绍由英特尔研究院和 Hugging Face 合作开发的 通用辅助生成 技术。有了这项技术，LLM 可与 任意 SL ...

当AI没有被比作魔法或邪恶实体时，它通常被简化为一个单一的术语：软件。这种简化可能会掩盖构建真正AI系统的复杂性和丰富结构的元素之间的相互作用。尽管我更愿意听到AI被描述为软件，而不是听到关于其意识或自由意志的故事，让我们讨论为什么AI远不止是一段代码。定义AI 在核心，AI是创造能够模拟人类推理的 ...

一、思维导图展示 二、OpenCompass简介 OpenCompass是一个大模型测评体系，开源、高效。同时集成CompassKit测评工具、CompassHub测评集社区，CompassRank测评榜单。 官网地址：https://opencompass.org.cn/home 三、OpenCo ...

1 部署 官方文档指引 1.1 client 每个业务数据库都要新建 undo_log 表。 对 springboot 应用，执行 client - MySQL - AT，切tag=1.5.2： https://github.com/seata/seata/blob/v1.5.2/script/cl ...

Pattern: Database per service。 背景 如用微服务架构模式开发一个在线商店应用程序。大多数服务需要在某种数据库中持久化数据。如，订单服务存储订单信息，而客户服务存储客户信息。 问题 微服务应用程序中的数据库架构是什么？ 驱动力 服务必须松耦合，以便能够独立开发、部署和扩展 ...

0 前言 ShardingSphere提供数据访问安全性：通过数据脱敏，完成对敏感数据的安全访问。本文介绍ShardingSphere数据脱敏功能。 数据脱敏，指对敏感信息通过脱敏规则进行数据转换，实现敏感隐私数据的可靠保护。相较传统私有化部署方案，互联网应用对数据安全要求更高，涉及范围更广。根据行 ...

0 前文 上一文解析了 ShardingSphere 强一致性事务支持 XAShardingTransactionManager ，本文继续： 讲解该类 介绍支持柔性事务的 SeataATShardingTransactionManager sharding-transaction-xa-core中 ...

0 前言 基于上一文基础，详细展开 ShardingSphere 分布式事务实现。先看支持强一致性事务的XAShardingTransactionManager。 1 XAShardingTransactionManager 回到 ShardingSphere，来到 sharding-transac ...

阿里巴巴等联合推出的 Meissonic 文生图模型，仅 1B 参数，能在普通电脑及未来无线端运行推理。本文将详细展示其在笔记本上的本地部署教程，带你领略 Meissonic 的独特魅力与强大功能…… ...

背景概要设计文档评审是软件开发过程中的一个重要环节，主要体现在以下几个方面：1.确保设计的一致性和完整性：通过评审，可以确保设计文档中描述的系统架构、模块划分、接口定义等内容在各个部分之间保持一致，避免出现相互矛盾或遗漏的情况。评审过程有助于发现设计中的潜在问题，如数据流不一致、模块功能重叠等，从而 ...

0 前言 这是一系列技术和组织协议，旨在帮助管理开发日益强大的 AI 系统的风险。随 AI 模型强大，我们认为它们将为经济和社会带来巨大价值，但也将带来日益严重的风险。RSP 主要关注灾难性风险，即 AI 模型直接导致的大规模毁灭性风险。这些风险可能源于对模型的故意滥用（例如被恐怖分子或国家行为者用 ...

想要更优的Inference Time Scaling曲线，前提是模型本身是一个很强的Generator，已经拥有足够的生成合理推理过程的能力，同时还拥有很强的Verifier模型来对推理节点进行打分决策，并且二者可以在少人类监督的条件下不断迭代优化。这一章我们先聊聊如何让大模型"自学"推理思考，从... ...

11月了，秋招已经开始了。不知最近有没有同学在投简历面试呢? 回想起几年前我面试某大厂的时候，被问到了很多深度学习相关的知识，那时的我懂的不多，可以说是被面试官360度无死角蹂躏。 那次面试，印象最深的是问了很多与卷积相关的问题，导致我后来工作一段时间看到卷积就时不时的去查些资料，害怕自己又理解错了 ...

本文介绍向量检索服务DashVector动态量化功能和作用。 背景介绍 量化（Quantization）是向量检索技术中一种常用的优化方法，通过一定程度的精度（召回率）损失，来换取性能的大幅度提升，以及内存占用（索引文件大小）大幅度降低。 向量检索服务DashVector支持向量的动态量化，用户仅需 ...

背景 在项目管理过程中，风险分析与应对是一个重要的过程，它有助于确保项目的顺利进行并达成目标。常规过程可以分为几个关键步骤： 1. 风险识别 目的：找出可能影响项目成功的各种不确定因素。 方法：可以通过研讨会、访谈、问卷调查、历史数据审查等方式来识别潜在的风险。 2. 风险量化 目的：评估已识别风险 ...