摘要: 本文链接:https://www.cnblogs.com/wanger-sjtu/p/17470388.html 本文是 [OpenAI gpt-best-practices ](https://platform.openai.com/docs/guides/gpt-best-practices) 阅读全文
posted @ 2023-06-09 22:17 青铜时代的猪 阅读(233) 评论(0) 推荐(0) 编辑
摘要: 本文地址:https://www.cnblogs.com/wanger-sjtu/p/17470327.html - 论文链接:[link](https://arxiv.org/abs/2106.09685) - code: [github](https://github.com/microsoft 阅读全文
posted @ 2023-06-09 21:44 青铜时代的猪 阅读(493) 评论(0) 推荐(0) 编辑
摘要: 本文地址:https://www.cnblogs.com/wanger-sjtu/p/17417312.html ## Causual LM 这里以llama模型为例,通常在执行用户输入之前会有一个[[文章/LM basic知识#Prefill]]的过程。然后根据用户promts 得到输出。 ![] 阅读全文
posted @ 2023-05-20 15:40 青铜时代的猪 阅读(1558) 评论(0) 推荐(0) 编辑
摘要: 本文地址:https://www.cnblogs.com/wanger-sjtu/p/17291070.html tvm 中在部署时有多个选择,最开始的graph exectuor runtime 、后来降低overhead 引入的AOT runtime, 以及后来Nimble 中动态shape引入 阅读全文
posted @ 2023-04-05 21:58 青铜时代的猪 阅读(123) 评论(0) 推荐(0) 编辑
摘要: https://www.cnblogs.com/wanger-sjtu/p/17202776.html // DON’T DO THIS std::string s1, s2; ... const char* p1 = (s1 + s2).c_str(); // Avoid! const char* 阅读全文
posted @ 2023-03-10 11:19 青铜时代的猪 阅读(21) 评论(0) 推荐(0) 编辑
摘要: 1: string_view ref https://abseil.io/tips/1 函数参数需要是一个字符串的时候,通常的实现有以下几种: // C Convention void TakesCharStar(const char* s); // Old Standard C++ convent 阅读全文
posted @ 2023-03-08 09:28 青铜时代的猪 阅读(35) 评论(0) 推荐(0) 编辑
摘要: 本文地址 https://www.cnblogs.com/wanger-sjtu/p/16876846.html C++'s most vexing parse 是 Scott Meyers 在其名著《Effective STL》中创造的一个术语。Scott 用这个术语来形容 C++ 标准对于 de 阅读全文
posted @ 2022-11-10 14:04 青铜时代的猪 阅读(104) 评论(0) 推荐(0) 编辑
摘要: 本文地址 https://www.cnblogs.com/wanger-sjtu/p/16859177.html 在公司或者其它地方上网,发现网上的优秀资源,却发现自己身边没有移动存储设备来下载。这时候如果在家里事先登陆了迅雷客户端,然后将其设置为被控制状态,然后在公司登陆远程控制页面,就能随心所欲 阅读全文
posted @ 2022-11-04 21:23 青铜时代的猪 阅读(1156) 评论(1) 推荐(0) 编辑
摘要: 本文地址: https://www.cnblogs.com/wanger-sjtu/p/16819877.html 发现最近relay 的可视化已经在tvm主线上支持了,这里有一个简单的demo代码记录一下 需要安装 graphviz import os import numpy as np fro 阅读全文
posted @ 2022-10-23 22:37 青铜时代的猪 阅读(199) 评论(0) 推荐(0) 编辑
摘要: 本文链接 https://www.cnblogs.com/wanger-sjtu/p/16818492.html 调用链 tvm搜索算子在需要多线程运行的算子,是在codegen阶段时插入TVMBackendParallelLaunch的调用。 TVMBackendParallelLaunch 是t 阅读全文
posted @ 2022-10-23 14:15 青铜时代的猪 阅读(275) 评论(0) 推荐(0) 编辑