7

为了改一行代码，我花了10多天时间，让性能提升了40多倍---Pascal架构GPU在vllm下的模型推理优化

ChatGPT生成的文章摘要 这篇博客记录了作者在家中使用Pascal显卡运行大型模型时遇到的挑战和解决方案。随着本地大型模型性能的提升，作者选择使用vllm库进行推理。然而，作者遇到了多个技术难题，需要自行编译vllm和PyTorch，以支持Pascal架构的显卡。编译过程中，作者深入研究了显卡不 ...

boydfd 发布于 2024-12-14 13:08 评论(8) 阅读(1048)
0

解密prompt系列44. RAG探索模式？深度思考模式？

前一阵多步RAG的风吹入了工业界，kimi推出了探索版本，各应用都推出了深度搜索，You.COM更是早就有了Genius的多步模式。其实都是类似multi-hop RAG的实现 ...

风雨中的小七 发布于 2024-12-14 09:04 评论(0) 阅读(134)
1

渗透测试-前端验签绕过之SHA256

签名验证（又叫验签或签名）是验证请求参数是否被篡改的一种常见安全手段，验证签名方法主流的有两种，一种是 KEY+哈希算法，例如 HMAC-MD5 / HMAC-SHA256 等，本案例就是这种方法的典型案例。生成签名的规则为：username=*&password=*。在提交和验证的时候需要分别对提... ...

CVE-柠檬i 发布于 2024-12-14 07:33 评论(4) 阅读(207)
2

鸿蒙NEXT开发案例：颜文字搜索器

【引言】 本文将介绍一个名为“颜文字搜索器”的开发案例，该应用是基于鸿蒙NEXT平台构建的，旨在帮助用户快速查找和使用各种风格的表情符号。通过本案例的学习，读者可以了解如何在鸿蒙平台上进行数据处理、UI设计以及交互逻辑的实现。 【环境准备】 • 操作系统：Windows 10 • 开发工具：DevE ...

zhongcx 发布于 2024-12-14 04:59 评论(0) 阅读(184)
1

LeetCode题集-7 - 整数反转

将32位有符号整数x反转，若超出范围则返回0。方法包括long类型字符串转换、int类型字符串转换和数学计算，后者性能更优。基准测试显示数学方法性能高于字符串处理。 ...

IT规划师 发布于 2024-12-14 00:05 评论(0) 阅读(160)
1

ArkTs布局入门05——栅格布局（GridRow/GridCol）

1、概述 栅格布局是一种通用的辅助定位工具，对移动设备的界面设计有较好的借鉴作用。主要优势包括： 提供可循的规律：栅格布局可以为布局提供规律性的结构，解决多尺寸多设备的动态布局问题。通过将页面划分为等宽的列数和行数，可以方便地对页面元素进行定位和排版。 统一的定位标注：栅格布局可以为系统提供一种统一 ...

鸿蒙自习室 发布于 2024-12-13 23:24 评论(0) 阅读(134)
1

Consul 学习总结

什么是Consul? Consul是一种服务网络解决方案，使团队能够管理服务之间以及跨本地和多云环境和运行时的安全网络连接。Consul提供服务发现、服务网格(service mesh)、流量管理和网络基础设施设备的自动更新。可以在单个Consul部署中单独或一起使用这些功能。 架构介绍 Consu ...

授客 发布于 2024-12-13 23:23 评论(0) 阅读(223)
3

线程池 坑中之王 ！

前言 线程池是 Java 中处理多线程的强大工具，但它不仅仅是“直接用就完事”的工具。 很多小伙伴在用线程池时，因为配置不当或忽略细节，踩过许多坑。 今天跟大家一起聊聊线程池中容易踩的 10 个坑，以及如何避免这些坑，希望对你会有所帮助。 1. 直接使用 Executors 创建线程池 许多初学者在 ...

苏三说技术 发布于 2024-12-13 21:38 评论(0) 阅读(371)
0

jedis使用及注意事项

Jedis Jedis 是一个 Java 客户端，用于与 Redis 数据库进行交互。它提供了一系列简单易用的 API，使得在 Java 应用程序中使用 Redis 变得非常方便。以下是 Jedis 的使用方法及一些注意事项。 Jedis的优势 Lettuce客户端及Jedis客户端比较如下： Le ...

张占岭 发布于 2024-12-13 20:45 评论(2) 阅读(171)
4

C#调用Python脚本的方式（一），以PaddleOCR-GUI为例

前言 每种语言都有每种语言的优势，Python由于其强大的生态，很多任务通过调用包就可以实现，那么学会从C#项目中调用Python脚本完成任务就很重要。C#调用Python代码有多种方式，如果Python那边内容比较多，可以考虑起一个Web Api进行调用，如果只是一个简单的脚本而且不需要频繁调用， ...

mingupupup 发布于 2024-12-13 19:49 评论(0) 阅读(413)
1

Redis应用—1.在用户数据里的应用

大纲 1.社区电商的业务闭环 2.Redis缓存架构的典型生产问题 3.用户数据在读多写少场景下的缓存设计 4.热门用户数据的缓存自动延期机制 5.缓存惊群与穿透问题的解决方案 6.缓存和数据库双写不一致问题分析 7.基于分布式锁保证缓存和数据库双写一致性 8.缓存和数据库双写在分布式锁高并发下的优 ...

东阳马生架构 发布于 2024-12-13 19:15 评论(0) 阅读(161)
2

Python开发一个Instant Messaging（IM）（即时通讯）聊天工具：从理论到实践

开发一个Instant Messaging（IM）聊天工具不仅能够提高我们的编程技能，还能让我们更好地理解即时通讯系统的原理。本文将详细介绍如何开发一个简单的IM聊天工具，包括开发思想、开发流程以及详细的代码示例。 ...

TechSynapse 发布于 2024-12-13 19:09 评论(0) 阅读(274)
2

GPU 驱动漏洞：窥探驱动漏洞利用的技术奥秘

GPU 驱动漏洞：窥探驱动漏洞利用的技术奥秘 本文尝试以 GPU 漏洞为引介绍围绕 GPU 驱动这一攻击面，安全研究人员对内核漏洞利用技术做的一些探索。 背景介绍 目前移动 SOC 平台上由多个硬件模块组成，常见的硬件模块有：CPU、GPU、Modem基带处理器、ISP（图像处理器）等，这些硬件模块 ...

hac425 发布于 2024-12-13 19:05 评论(0) 阅读(142)
4

软考高级-系统分析师备考经验

我参加了24年下半年的软考-系统分析师考试，首次考试就刚好踩线通过了，在这里记录下我的备考经验 时间线 1、下半年的考试报名时间是8月底 2、考试时间是11月9号，一般每年都是离11月9-10号最接近的一个周末，出成绩是12/11 3、高级的考试内容分三部分，综合知识（选择题）、案例分析题、论文，今 ...

IAyue 发布于 2024-12-13 19:02 评论(0) 阅读(300)
3

推荐一款轻量级且强大的 Elasticsearch GUI ： elasticvue

推荐一款轻量级且强大的 Elasticsearch GUI ： elasticvue 很多同学都是用过 Elasticsearch 的 GUI 工具 Kibana ，但 Kibana 相对比较重，这篇文章，笔者推荐推荐一款轻量级且强大的 Elasticsearch GUI ： elasticvue ...

勇哥编程游记 发布于 2024-12-13 17:42 评论(1) 阅读(538)
0

设备间无缝互联，开启智能“对话”新时代

随着社交媒体平台的快速发展，用户对内容分享的需求不断增加，社交分享按钮在数字营销和搜索引擎优化（SEO）策略中也成为提升网站流量和内容曝光率的重要工具。此外，图片、视频和文件的传输在协同工作和朋友共享中的使用也越来越频繁。 HarmonyOS SDK分享服务（Share Kit）为应用提供文本、图片 ...

HarmonyOS_SDK 发布于 2024-12-13 17:41 评论(0) 阅读(112)
0

MQ系列（六）| RocketMQ 快速入门

MQ系列（六）| RocketMQ 快速入门 本参考链接：RocketMQ 是什么？ 原作者：小白debug 前言 作为一个程序员，假设你有 A、B 两个服务，A 服务发出消息后，不想让 B 服务立马处理到。而是要过半小时才让 B 服务处理到，该怎么实现？ 这类延迟处理消息的场景非常常见，举个例子， ...

码农stormling 发布于 2024-12-13 17:24 评论(0) 阅读(234)
0

VMpwn总结

前言： 好久没有更新博客了，关于vm的学习也是断断续续的，只见识了几道题目，但是还是想总结一下，所谓vmpwn就是把出栈，进栈，寄存器，bss段等单独申请一块空闲实现相关的功能，也就是说一些汇编命令通过一些函数来实现，而大部分的vmpwn的切入点大多是不安全的下标，通过下标来泄露一些东西或者修改一些 ...

CH13hh 发布于 2024-12-13 17:06 评论(0) 阅读(108)
3

Java模拟Oracle函数MONTHS_BETWEEN注意事项

MONTHS_BETWEEN(DATE1, DATE2) 用来计算两个日期的月份差。 最近接到一个迁移需求，把Oracle SQL接口迁移到新平台上，但新平台是采用Java计算的方式，所以我需求把SQL逻辑转成Java语言。 在遇到MONTHS_BETWEEN时，遇到一些奇怪的问题，在此记录一下。 ...

这行代码没Bug 发布于 2024-12-13 16:47 评论(2) 阅读(103)
0

痞子衡嵌入式：i.MXRT1170上PXP对CM7 TCM进行随机地址短小数据写入操作限制

大家好，我是痞子衡，是正经搞技术的痞子。今天痞子衡给大家分享的是i.MXRT1170上PXP对CM7 TCM进行随机地址短小数据写入操作限制。 在 MCU 里能够对片内外映射的存储器进行读写操作的主设备(Master)除了常见的 Core 以及 DMA 外，其实还有一些面向高速数据传输（比如 USB ...

痞子衡 发布于 2024-12-13 16:15 评论(0) 阅读(102)