摘要: 整体工作 这篇文章针对当前大模型训练,激活数据在GPU内存中占用量高、主导内存使用,影响限制着模型训练性能的问题,提出了一种解决方案:将激活卸载到比GPU、CPU内存更高容量的NVMe ssd上。通过设计使I/O与计算重叠,即保留了相比存储在CPU内存中近似的性能,又比分层完全重计算获得更好的内存节 阅读全文
posted @ 2024-08-25 10:13 O_fly_O 阅读(137) 评论(0) 推荐(0) 编辑
摘要: 阅读思考问题: Please briefly describe how hierarchical dependency graphs are built in FlexGraph, and point out the specific stage in the NAU abstraction whe 阅读全文
posted @ 2024-05-20 23:01 O_fly_O 阅读(47) 评论(0) 推荐(0) 编辑
摘要: [论文阅读] The Google File System 论文链接:The Google File System Introduction GFS在设计上与传统的文件系统的几个区别: 分布式系统中错误是常态,因此持续监控、错误检测、容错机制、自动恢复都是必要的。 文件普遍非常大,达到GB级别以上, 阅读全文
posted @ 2024-04-11 00:21 O_fly_O 阅读(9) 评论(0) 推荐(0) 编辑
摘要: 蓬莱enclave-spmp 编译和运行说明 蓬莱是一个RISC-V TEE系统,其设计具有安全性,高性能和可扩展性。基于PMP的OpenSBI版本的蓬莱Enclave使用可以参考下文,具体仓库地址为:https://github.com/Penglai-Enclave/Penglai-Enclav 阅读全文
posted @ 2024-03-10 15:17 O_fly_O 阅读(218) 评论(0) 推荐(0) 编辑
摘要: 思考题 1: 内核从完成必要的初始化到用户态程序的过程是怎么样的?尝试描述一下调用关系。 内核启动到用户程序启动的流程: main ├── uart_init ├── mm_init ├── arch_interrupt_init ├── create_root_thread │ ├── creat 阅读全文
posted @ 2023-03-30 20:51 O_fly_O 阅读(233) 评论(0) 推荐(0) 编辑
摘要: foundation部分学习记录(更新中……) 从FDB的角度看,它对上层只提供有序+事务+KV存储的抽象。 设计原则 模块化分割,尽量细分且模块之间相互解耦 例如事务系统内,其提交(write path)和读取(read path)是可以独立扩展的,系统中根据事务功能的不同,区分了很多角色(tim 阅读全文
posted @ 2023-02-16 00:36 O_fly_O 阅读(34) 评论(0) 推荐(0) 编辑
摘要: 参考:(102条消息) Ubuntu 20.04 Desktop 换源_虚竹镜荒的博客-CSDN博客_ubuntu desktop 源 VMware Workstation中Ubuntu 20.04安装vm-tools: sudo apt installl open-vm-tools sudo ap 阅读全文
posted @ 2022-12-22 22:50 O_fly_O 阅读(148) 评论(0) 推荐(0) 编辑
摘要: jdk和jre的区别 1. 定义 JRE(Java Runtime Enviroment)是Java的运行环境。面向Java程序的使用者,而不是开发者。如果你仅下载并安装了JRE,那么你的系统只能运行Java程序。JRE是运行Java程序所必须环境的集合,包含JVM标准实现及 Java核心类库。它包 阅读全文
posted @ 2022-12-22 13:43 O_fly_O 阅读(53) 评论(0) 推荐(0) 编辑
摘要: 博客快速上传方式 如果博客内容仅仅是文字等,那么直接复制本地书写的 MarkDown 笔记,然后粘贴到博客园即可。可问题是,记笔记的时候,除了文字描述,有时候还会穿插一些配图,而这些配图往往存储到了本地目录下,无法上传到博客园中。而我们在博客园直接写文章的时候,如果想要配图,直接将图片拖拽到博客园中 阅读全文
posted @ 2022-11-04 11:55 O_fly_O 阅读(129) 评论(0) 推荐(0) 编辑
摘要: # wsl使用记录 安装 直接参考微软官方文档使用 WSL 在 Windows 上安装 Linux ubuntu可用发行版安装 https://ubuntu.com/wsl 访问 方式一:在资源管理器的路径栏输入 \\wsl$ 方式二:安装使用Xftp 7客户端,在wsl中安装ssh,开启后通过s 阅读全文
posted @ 2022-11-04 11:40 O_fly_O 阅读(37) 评论(0) 推荐(0) 编辑