刷新
Ollma本地部署Qwen2.5 14B(不使用docker)

博主头像 部署机器硬件情况: 内存 :32GB 显卡 :3060 为什么不使用docker: 1.网上教程大多以docker为主 2.安装docker的时间太长,在等待的时候顺便尝试一下不用docker的部署 1.安装Ollama 下载地址:https://ollama.com/ 下载好之后默认安装即可。 O ...

向量检索服务产品规格

博主头像 本文介绍向量检索服务DashVector的产品规格,以帮助用户选择贴合自身业务场景的实例规格。 实例类型 向量检索服务DashVector当前支持三种四种实例(Cluster)类型,以支持不同的业务场景和需求: 性能型 :适用于查询QPS高、查询延迟低的场景,同时性能型也是写入效率最高的实例类型。对 ...

[开源免费]一个 AI 联网搜索,使用全免费资源实现

博主头像 一直是开发后端或者上位机,最近对前端挺感兴趣,所以用 Vue 花两天时间做了这个,前端框架果然开发非常快 前端框架用的 饿了么 Plus ,后端当然还是我最熟练的 .NET,当前是 1.0 版本,所以有很多并不完善,欢迎各位留下宝贵意见和想法,这算是一次资源整合以及前端学习,本身并没有很高的技术含量 ...

技术债正在悄悄拖垮你的团队!

博主头像 0 前言 软件开发的核心在于应对变化。在软件的生命周期中,目标是能够在合理的时间内实施必要的更改。不管这些更改是技术性的,比如紧急安全升级,还是业务需求所驱动的,比如开发新功能以在目标市场中更具竞争力——能否快速应对变化是成败的关键。 是什么让我们慢下来?通常,这是因为让某个功能能够运行并不等于让它 ...

MongoDB身份认证机制揭秘!

博主头像 检查MongoDB服务器的身份验证状态,使用MongoDB的shell或者命令行工具。 1 使用MongoDB Shell 1.1 连接到admin数据库 因为大多数身份验证相关的命令需要在admin数据库中运行: use admin 1.2 检查服务器的身份验证状态 db.runCommand({ ...

“土木建筑巨头”遇上“数字基建排头兵”——天翼云赋能高校数智化转型提质增速!

博主头像 SeisGPT是国际首个地震工程领域科学大模型,致力于解决建筑群地震响应的实时预测难题,拥有1.5B的模型参数量。SeisGPT能够基于建筑结构信息和地震动特征,直接预测建筑群中大量建筑结构的响应,有效解决了不同建筑间响应预测难以迁移的关键科学问题。 ...

LLM部署,你必须要知道的几个技巧!

博主头像 0 前言 今天我会首先解释为什么 LLM 的部署很难,因为许多人可能并不理解其中的复杂性。接着,我会分享七个提高 LLM 部署效果的技巧和方法。 1 为啥 LLM 部署困难? “最近在忙啥?” “我一直在让 LLM 服务变得更简单。” “LLM 部署难吗?不是直接调用 OpenAI API 就行?” ...

这份数据库知识指南让程序员拍案叫绝!

博主头像 4 数据库 关系型数据库 关系型数据库,或称为 SQL 数据库,是结构化的,具有预定义的模式,类似于存储电话号码和地址的电话簿。SQL 数据库以行和列的形式存储数据。每一行包含关于单个实体的所有信息,每一列则保存所有分开的数据点。常见的 SQL 数据库包括: MySQL Oracle MS SQL ...

通用辅助生成: 使用任意辅助模型加速解码

博主头像 太长不看版: 许多 LLM (如 gemma-2-9b 、 Mixtral-8x22B-Instruct-v0.1 等) 苦于缺乏对应小模型,而无法适用 辅助生成 方案。本文,我们将介绍由英特尔研究院和 Hugging Face 合作开发的 通用辅助生成 技术。有了这项技术,LLM 可与 任意 SL ...

AI是一个真正的系统而不仅仅是软件

博主头像 当AI没有被比作魔法或邪恶实体时,它通常被简化为一个单一的术语:软件。这种简化可能会掩盖构建真正AI系统的复杂性和丰富结构的元素之间的相互作用。尽管我更愿意听到AI被描述为软件,而不是听到关于其意识或自由意志的故事,让我们讨论为什么AI远不止是一段代码。定义AI 在核心,AI是创造能够模拟人类推理的 ...

模式:每个服务一个数据库

博主头像 Pattern: Database per service。 背景 如用微服务架构模式开发一个在线商店应用程序。大多数服务需要在某种数据库中持久化数据。如,订单服务存储订单信息,而客户服务存储客户信息。 问题 微服务应用程序中的数据库架构是什么? 驱动力 服务必须松耦合,以便能够独立开发、部署和扩展 ...

顶级企业如何用数据脱敏保护用户隐私!

博主头像 0 前言 ShardingSphere提供数据访问安全性:通过数据脱敏,完成对敏感数据的安全访问。本文介绍ShardingSphere数据脱敏功能。 数据脱敏,指对敏感信息通过脱敏规则进行数据转换,实现敏感隐私数据的可靠保护。相较传统私有化部署方案,互联网应用对数据安全要求更高,涉及范围更广。根据行 ...

<1···8910···24>