大模型调研——编程初学者记

合集 - py专业作业(3)

1.课本第一章P42-4403-09

2.大模型调研——编程初学者记03-02

3.初学者，试运行02-25

收起

一、概念
大模型通常指大型程序学习模型，特指深度学习模型。
二、特点
大模型其中会包含大量的参数，需要收纳大量的数据去训练。同时由于它的规模的庞大、数据之多，对硬件也有要求，往往需要高性能的硬件设施，帮助处理复杂的任务。
三、应用领域
当下互联网、人工智能迅速发展，大模型也展现出巨大的潜力所以在大模型应用领域方面：
1.自然语音处理领域：有文本处理、语言翻译、对话分析等方面，例如文心一言的文本处理，AI翻译，豆包的对话分析等
2.计算机视觉领域：有图像的采集与分析、目标定位、视频行为分析等，应用于交通监控等领域
3.数据分析与预测领域：分析动物或人的身体状态，协助医生处理数据；在工业生产中检测产品缺陷；在教育领域提供个性化的教育方案建议等
四、现状方面
在当前情势下，互联网、人工智能迅速发展，大模型的应用也越来越广泛，在各个领域都展现出巨大的潜力。在数据处理的展现出全面性与效率性。
五、挑战方面
算力成本高，可能会因数据差异产生数据混乱，以及人性底线与法律争议等风险，需要更多的道德与法治的约束，让大模型专注于服务人类。

因此，我查了chatGPT这个大模型的相关信息
【ChatGPT解析：构建逻辑、运行技巧与应用指南】
一、大模型的产生与构建流程

1. 数据准备与处理：大模型需要收集海量多源数据去训练，如文本(网页、 书籍)、图像、视频等。例如，GPT-3的训练数据量达45TB,覆盖互联网公开文本、学术论文等
2. 模型架构设计：采用Transformer架构(如GPT 系列、BERT)，参数量约1750亿，其自注意力机制能高效捕捉长距离依赖关系，适用于文本和图像任务。
3. 三阶段训练：
   （1）预训练：学习互联网海量文本的统计规律（45TB数据）。
   （2）监督微调：标注人员编写高质量问答对，调整模型输出风格。
   （3）强化学习：通过人类对回答的排序反馈，优化生成策略。
   4．安全护栏：
   （1） 内容过滤：拒绝生成暴力、歧视性内容
   （2）知识截止：设定2023年10月为知识边界，避免虚构未来事件
   二、运行技巧与优化策略
   1.系统级优化
   （1） 使用GPU集群（如Azure的NDm A100 v4系列）实现低延迟响应。
   （2） 通过模型并行将计算负载拆分到多张显卡。
   （3）成本控制： 量化压缩（将FP32参数转为INT8，推理速度提升3倍）
   三、ChatGPT的高效使用技巧
   （一） 结构化指令：
   模板："你是一位经验丰富的Python工程师，请完成以下任务：
4. 解释快速排序的原理（不超过200字）
5. 给出时间复杂度分析
6. 编写带测试用例的Python代码"
   （二）少样本学习
   提供示例引导模型风格：
   输入："模仿鲁迅风格写三句关于AI的讽刺短文。
   （三） 垂直领域适配
7. 知识库增强：

• 通过API接入企业文档（如医疗指南），使用检索增强生成（RAG）提升专业回答准确性。
  2．微调
• 使用领域数据集（如法律条文）微调模型，需至少500条高质量标注数据。
  （四） 规避常见误区

1. 避免模糊提问：
   错误："告诉我关于AI的一切。"
   优化："列举2020-2023年NLP领域的三大技术突破，每项附1个实际应用案例。"
   2.处理知识截止问题：

• 对时效性内容补充检索：
  用户："2024年诺贝尔奖得主是谁？"
  ChatGPT："我的知识截止于2023年10月。建议通过诺贝尔奖官网查询最新信息。"
  3.注意人为检验严谨问题的真实性
  四、未来发展方向

1. 多模态深度整合：实现文本、图像、音频的同步理解与生成（如GPT-4 Vision）。
2. 记忆个性化：在隐私保护前提下，建立长期用户交互记忆库。
3. 边缘计算部署：通过微型化技术（如微软Phi-3）在手机端运行轻量级模型。

附：实操建议
1.学术研究：用ChatGPT辅助文献综述时，需人工验证关键数据。
2.商业应用：结合LangChain框架构建企业级AI工作流，实现自动化报告生成。
3.开发者工具：利用OpenAI API的function calling特性连接外部数据库。