简介这份PPT面向希望系统理解大模型的高校师生、通识课学习者与科普读者围绕人工智能发展简史、人工智能思维、大模型的概念与原理、产品与分类、应用领域、本地部署及对工作生活的影响等主题展开帮助读者从零建立大模型知识框架并理解AIGC实践与智能体应用。压缩包内仅含1个pptx文件大小约61.03MB以演示文稿形式组织章节和图示适合课堂讲授、自学梳理与讲座分享。目前已有150人学习下载。内容源自厦门大学大数据教学团队相关教学积累串联图灵测试、人工智能诞生、大模型发展历程、参数规模、语言生成与上下文理解能力、行业影响等知识点并延伸到AIGC应用与教学资源便于读者快速把握概念、技术脉络和典型应用场景也可为通识课备课与科普讲解提供参考。1. 一份四板块的大模型通识讲义先看目录再动手拿到这份材料我先翻的是目录不是正文。原因很实在讲大模型的资料太多了绝大多数看完只留下一个模糊的“很厉害”隔一天就想不起来讲了什么。这份由某高校大数据教学团队整理的通识讲义不一样它给出的是一条有顺序的路线从 1950 年那场“机器能思考吗”的判别实验讲起穿过人工智能的几次起落落到大模型的参数、原理、分类和本地部署最后收在 AIGC 的实际操作上。四个板块一份可编辑的 PPT配了 MOOC 视频和上机实验。它解决的主要问题是“怎么在半小时内把大模型讲给一群没写过代码的人听同时自己也能把模型跑起来”而不是“怎么调接口”。适合三类人要给非计算机专业上课的老师、想系统补课又不想啃论文的工程师、需要给团队做一次 AI 通识分享的技术负责人。2. 拆开讲义骨架四个板块各自解决什么认知问题这份讲义的章节编排不是按“技术难度”来的是按“认知顺序”来的。第 1 板块讲历史第 2 板块讲思维方式第 3 板块讲大模型本体11 个小节占了总篇幅一多半第 4 板块讲 AIGC 操作。这个顺序背后有个很朴素的判断先让人知道这东西从哪来、该怎么想再讲它是什么、最后才是怎么用。很多人做 AI 分享会直接从“什么是 Transformer”开场听众三分钟就掉队了问题不在技术讲得深而在于缺了前面两层铺垫。我按这个骨架把材料拆过一遍下面三节是拆完之后的实际结论包括每个板块该讲多久、哪几节可以合并、哪里必须补例子。2.1 把发展史讲成“驱动力变化史”而不是年表第 1 板块的结构是判别实验 → 学科诞生 → 发展阶段 → 未来阶段。四小节看起来是标准年表真按年表讲会非常闷——1950 年一篇论文、1956 年一场会、1980 年一个结构、1998 年又一个结构听众记不住任何一条。讲得动听的关键是把主线换成“每一轮热潮是被什么推起来的又是被什么按下去的”。讲义里明确给了萌芽期的起点是 1950 年、终点是 2005 年中间两个结构节点是 1980 年前后的卷积网络雏形和 1998 年的 LeNet-5。这两个节点之所以重要不是因为年份而是因为它们代表了方法的切换从“人把规则写进去”切换到“让模型从数据里学”。我在讲这一段时会配一张四列表把“驱动力”和“退潮原因”并列效果比纯年表好得多。阶段主导方法标志性结构或事件这一轮为什么起来这一轮为什么冷下去萌芽1950—2005符号推理为主逐步转向浅层机器学习1950 年判别实验、1956 年学科命名、1980 年卷积网络雏形、1998 年 LeNet-5计算机可编程能力出现规则可以形式化规则写不完算力和数据都撑不住深层网络沉淀深层神经网络 并行算力深层卷积网络、循环网络在语音与文本上的落地并行计算硬件成熟标注数据规模化长距离依赖建模弱标注成本高模型难以继续放大爆发注意力机制 大规模预训练注意力骨干取代循环结构参数规模进入千亿级训练可以高度并行规模扩张带来可预期的能力增长算力与数据成本高幻觉与可控性问题凸显这张表的用法是每讲完一行问听众一句“如果算力在当时就够了这一轮还会冷下去吗”。答案通常是“会”因为真正的瓶颈往往是数据和方法算力只是最后一根稻草。这一问能把“历史”讲成“判断力”。提示讲义第 1 板块最后还有一节“未来发展的五个阶段”。这一节不建议单独讲容易滑向预测。我的做法是把它压缩成结尾的两分钟只说清楚一件事——未来的变量在“模型能不能自己调用工具、自己校验结果”而不是在“参数还能不能翻十倍”。2.2 第 3 板块的十一个小节实际只需要讲五段第 3 板块列了 11 个小节概念、发展历程、与人工智能的关系、产品、原理、特点、分类、应用领域、对工作生活的影响、本地部署、智能体。按顺序一路讲下去两小时打不住而且中间会出现明显的“抽象疲劳”——概念、原理、特点连着三节全是描述性的听众会开始看手机。我的重组方式是把 11 节压成五段每段都有“抽象内容 一个可感知的落点”段落合并的小节这要解决的问题建议时长第一段概念 特点 分类大模型的“大”体现在哪、有哪几种分法25 分钟第二段发展历程 与人工智能的关系它是人工智能这条线上的一个位置不是凭空出现15 分钟第三段原理参数、训练、推理到底在干什么30 分钟第四段产品 应用领域 对工作生活的影响现在能拿它做什么、边界在哪25 分钟第五段本地部署 智能体亲手跑一次看它怎么调工具45 分钟这个重排有两个刻意为之的地方。一是把“分类”提前到第一段。分类按模态分、按开放程度分、按参数规模分看起来是枯燥的名词但它给了听众一把尺子后面听到任何一个模型名都能自己归位。二是把“本地部署”和“原理”拉开距离放在最后。原理讲完人已经晕了这时候立刻上机反而更晕隔一段讲完应用再回来跑接受度高很多。第三段的原理部分是全篇最难讲的地方。讲义里给的落点是“海量参数、强大学习能力、泛化能力、能处理和生成多种类型数据”这些词对新手全是黑箱。我一般会补一个最小化的解释模型做的事是给定前面的内容预测下一个最可能出现的词元训练就是不断调整参数让这个预测更准。这句话能把“参数”“训练”“推理”三个词串起来而且不需要任何数学。2.3 把“了解—区分—协作”三层思维变成三个课堂动作第 2 板块只有三条了解人工智能的基础运行模式、具备区分人和机器能力边界的能力、拥有和人工智能协作的能力。这三句话写在 PPT 上没人会反对但如果不落到具体动作它就只是一段正确的空话。我给这三条各配了一个能在 15 分钟内完成的动作。了解让每个学员用一句话描述“你刚才那句回答是怎么被生成出来的”。收上来的答案八成是“它去网上搜的”。这时候再讲“它是逐词元预测出来的不联网也能答”纠正效果比直接讲原理强十倍。这个动作暴露的是最普遍的一个误解而且是自己说出来的记忆更牢。区分给一组六项任务让学员先自己判断“人做得好还是模型做得好”再实际跑一遍对比。这六项我固定用把一段口语转成会议纪要、判断两份合同的条款差异、从零写一个可运行的排序函数、给一张图写三版文案、算一道带单位的换算题、判断一段话里有没有自相矛盾。跑完的结果往往和预判不一致尤其是“算换算题”和“判断自相矛盾”这两项模型翻车率明显高于预期。这个反差就是“边界感”的来源。协作把一项任务拆成“人定目标和验收标准 — 模型出初稿 — 人做审核和改写”三段让学员各走一遍记录三个环节各自花了多少时间。多数人第一次做会发现自己 70% 的时间花在改稿上这个数字本身就是最好的协作教学。注意这三层思维里“区分”是最容易被讲成道德说教的一节。避免说“不要过度依赖”改成让学员自己看到翻车案例结论让他们自己下。3. 讲透“大”在哪里参数、数据、算力三把尺子第 3 板块里最容易讲虚的是“大模型的概念”和“大模型的特点”。这两节的原文全是形容词参数数量庞大、训练数据量大、计算资源需求高、学习能力强、上下文理解能力强、可迁移性高。形容词没法验证也没法让人记住数量级。真正能让听众有体感的是三把可以拿来量东西的尺子。3.1 参数规模的量级阶梯以及三个常见误读先给量级。业界习惯把模型按参数量分成几档档与档之间的差别不只是数字是能不能跑、跑在哪、能干什么的差别。量级典型参数范围常见运行环境现实能力常见误用亿级1 亿—10 亿笔记本 CPU 可跑手机端也可量化部署单一任务微调、分类、抽取拿来当通用助手答非所问百亿100 亿—1000 亿单卡或双卡消费级显卡4bit 量化通用对话、写作、中等难度代码拿去算复杂数学错得自信千亿1000 亿以上多卡服务器需张量并行复杂推理、长文档、多轮工具调用忽略推理成本按次调用烧钱万亿级稀疏总参数万亿激活参数远小于此分布式集群逼近更大规模的能力上限把“总参数”当成“每次推理都要跑这么多”第一个误读是把总参数当激活参数。稀疏结构混合专家是最常见的一种里总参数是所有权重的和但一次推理只激活其中一小部分。宣传里的“万亿参数”和实际推理成本之间可能差一个数量级。讲这一条的意义在于听众看到参数对比表时不会直接拿总参数去推显存。第二个误读是把参数量当能力。同一量级、同一份训练数据规模下数据质量和训练策略的差别可能比参数差别更大。我在课上会给一个具体提问“如果一个模型参数多一倍但在你的任务上只好了 3%你换不换”多数人第一反应是换接着追问“推理成本翻倍、延迟翻倍你还换吗”答案就开始分化。这个分化就是选型意识的开始。第三个误读是拿稠密模型的经验去套稀疏模型。稠密模型每一层都全量计算显存和算力跟参数近似线性稀疏模型的计算量跟激活参数走但显存占用仍然跟总参数走。这个区别在本地部署时特别致命一个总参数很大、激活参数很小的模型可能显存装不下但真装下了速度反而不慢。3.2 从卷积结构到注意力机制为什么现在才“大”得起来讲义的发展历程里点了两个结构节点1980 年前后的卷积网络雏形和 1998 年的 LeNet-5。这两个点在技术史上的意义是确立了“局部感受野 权重共享”的思路让图像类任务第一次有了可训练的通用结构。但对大模型来说真正的转折不在卷积而在序列建模方式的变化。我用一条四步的线来讲这段每一步都对应一个“卡点”第一步卷积结构擅长处理局部相关性图像上相邻像素有关系所以它好用但文本里相隔很远的两个词也可能强相关卷积要建立这种联系得堆很多层。第二步循环结构RNN、LSTM按顺序处理序列解决了“记住前面”的问题但它是串行的第 100 个词必须等第 99 个词算完。这个串行性直接掐死了并行训练模型没法做大。第三步注意力机制把“任意两个位置直接建立联系”变成一次矩阵运算整个序列可以同时算。这一步是并行化的关键也是模型规模能往上堆的前提。第四步规模化之后出现了可预期的能力增长——参数、数据、算力同时放大损失按相对稳定的规律下降。这条规律的存在才让“先把模型做大再谈别的”成为一种工程上合理的选择。这四步讲完听众能自己回答一个问题为什么大模型不是“突然出现”的。它是一条链上每一环都被解开之后的结果缺任何一环都不成立。提示讲这段时不要碰公式。只需要在黑板上画一个 4×4 的格子说明“序列里任意两个位置都要算一次关系”注意力要算 16 次串行的循环结构要算 4 轮一轮比一轮长。图形比公式有效。3.3 用一张边界表校准“它能干什么”第 3 板块里“应用领域”和“对工作和生活的影响”两节写得好但偏正面。真正要补的是一张反向的表什么任务它做不好以及怎么提前发现。任务类型典型表现主要失效点现场校验手段摘要与改写稳定接近可用丢数字、丢否定词抽三个关键数字人工核对代码生成小函数可用大模块需重构编造不存在的接口直接跑不做静态审查翻译流畅术语需校对领域术语不一致术语表回填比对数学与单位换算简单题可以多步易错中间步骤自我修正失败让它分步写逐步验算事实问答常见事实可以冷门高概率编造编造来源和出处强制要求“说不出出处就说不确定”长文档处理开头结尾好中段易丢上下文窗口外的内容被忽略分段提问交叉验证这张表的价值在于把“幻觉”这个抽象词拆成了六种可观察的失效点。听众反馈里最常见的一句是“原来它编东西是有规律的”这比讲十遍“注意幻觉”有用。4. 本地把模型跑起来显存账本与量化参数第 5 段“本地部署”是整个讲义里唯一能变成动手环节的部分也是最容易在课堂上当场翻车的一段。翻车的原因九成不是命令写错是显存没算清楚。这一章把账算一遍然后把两条部署路径的代码给全。4.1 先算账再下载三个数字决定你能不能跑显存占用可以粗分成三块权重、KV Cache、框架开销。权重的算法很直接参数量乘以每个参数的字节数。半精度FP16/BF16是 2 字节8 位量化是 1 字节4 位量化是 0.5 字节。所以一个 7B 模型在半精度下光权重就要 14GB4bit 量化后约 3.5GB。KV Cache 是很多人漏掉的一块它的粗略估算是 2 × 层数 × 隐藏维度 × 序列长度 × 批大小 × 每元素字节数。按这个式子一个 32 层、隐藏维度 4096 的 7B 模型在 4096 上下文、单请求的情况下KV Cache 约 2GB。如果用了分组查询注意力多个查询头共享一组键值头这个数字会按分组比例下降常见情况下能降到零点几 G。框架开销是玄学部分不同推理框架差距明显一般按 0.5—1.5GB 预留。把三块加起来就是一张可以直接抄的选型表模型规模权重FP16权重8bit权重4bit推荐最低显存4bit8K 上下文7B约 14GB约 7GB约 3.5GB8GB13B约 26GB约 13GB约 6.5GB12GB32B约 64GB约 32GB约 16GB20GB70B约 140GB约 70GB约 35GB48GB注意表里“推荐最低显存”已经包含 KV Cache 和框架开销不是权重本身的数字。很多教程只给权重学员照着买卡跑起来就 OOM这是最常见的分歧来源。4.2 命令行路径用统一入口拉模型、改参数第一条路径适合课堂演示因为命令短、反馈快。核心是三件事拉模型、跑模型、改参数。# 拉取一个 7B 级别的指令微调模型4bit 量化版本 # 模型 tag 换成你本地仓库里已有的名字即可量化后缀决定显存占用 ollama pull your-model:7b-instruct-q4_K_M # 先做一次冒烟测试确认能出字再谈参数调优 ollama run your-model:7b-instruct-q4_K_M 用一句话说明什么是逐词元预测这两条命令里真正需要解释的是那个量化后缀。q4_K_M表示 4bit 量化、K 分组、中等精度档位同系列还有q4_K_S更省显存、质量略低和q5_K_M更接近原始精度、显存多约 25%。课堂环境一般选q4_K_M因为它在 8GB 显存上留出了足够余量。参数不写在命令行里写在 Modelfile 里更清楚也方便发给学员复用# 自定义一个带固定参数的模型副本 FROM your-model:7b-instruct-q4_K_M # 上下文窗口直接决定 KV Cache 大小8K 是 8GB 显存的稳妥值 PARAMETER num_ctx 8192 # 卸载到 GPU 的层数28 层左右可覆盖大部分 7B 结构剩余走 CPU PARAMETER num_gpu 28 # 温度事实类任务压低创意类可以放到 0.8 以上 PARAMETER temperature 0.3 # 重复惩罚略高于 1.0 可以减少复读超过 1.3 会开始出现用词僵硬 PARAMETER repeat_penalty 1.1# 用上面的 Modelfile 创建副本之后直接按副本名调用 ollama create my-course-demo -f ./Modelfile ollama run my-course-demo 把这段讲义标题改写成一句导语大模型的概念、特点与分类num_ctx和num_gpu这两个参数是现场最容易翻车的。num_ctx调大KV Cache 线性增长8GB 卡上把它设成 32768 基本必炸num_gpu设得过小模型有一半在 CPU 上跑出字速度会从每秒几十个词元掉到个位数学员会以为“大模型就是这么慢”。4.3 接口路径用 HTTP 直接调方便接进自己的脚本课堂演示用命令行够了但要做批量任务比如一次性改写三十条标题就得走接口。下面的代码不依赖任何特定 SDK直接发 HTTP 请求本地推理服务提供的兼容端点都可以用。import json import requests # 本地推理服务默认监听 127.0.0.1端口按你实际部署的改 # 路径 /v1/chat/completions 是主流兼容格式若服务端只暴露原生接口需换成 /api/chat URL http://127.0.0.1:11434/v1/chat/completions payload { model: my-course-demo, # 对应上一步 ollama create 出来的副本名 messages: [ # system 用来锁定角色和输出格式比在 user 里反复叮嘱有效 {role: system, content: 你是一名严谨的技术资料校对员只回答被问到的内容不确定时直接说不确定。}, {role: user, content: 把这句话改写成 30 字以内的导语大模型的概念、特点与分类}, ], temperature: 0.2, # 事实类任务压低随机性0.1-0.3 之间 top_p: 0.9, # 与 temperature 建议只重点调一个另一个保持默认 max_tokens: 256, # 输出上限设太小会截断设太大会拖慢首屏 } resp requests.post( URL, headers{Content-Type: application/json}, datajson.dumps(payload), timeout120, # 本地模型首 token 可能较慢超时给足 ) # 兼容格式下结果在 choices[0].message.content print(resp.json()[choices][0][message][content])这段里三个参数值得单独说。temperature控制采样随机性0.2 时同一问题多次调用结果基本一致适合校对、抽取这类任务调到 0.8 以上才开始有“创意”但也会开始编。top_p是另一种截断策略和temperature作用叠加同时大调两个参数很难判断是谁在起作用我的习惯是先固定top_p0.9只调温度。max_tokens影响的是延迟而不是质量本地部署时它和上下文窗口一起抢显存课程演示建议设 256—512。timeout也要留意。本地首次加载模型会有几秒到几十秒的冷启动如果脚本里用默认超时第一次调用大概率报错第二次就好了这种“第一次必挂”的现象很容易被误判成配置错误。4.4 上下文长度与并发显存到底被谁吃掉了把上面三块拼起来看一个具体场景。8GB 显存7B 模型 4bit 量化权重约 3.5GB框架开销按 1GB 算剩下约 3.5GB 给 KV Cache。按前面的公式8K 上下文单请求大约占 1—2GB取决于是否用分组查询注意力还能留出一点余量。但如果把上下文拉到 32KKV Cache 直接翻四倍必然溢出。并发的问题更隐蔽。批大小为 4 时KV Cache 也要乘以 4而权重不变。所以“单条能跑四条并发就崩”不是模型的问题是 KV Cache 按请求数线性增长。课堂演示一定要串行别让三十个人同时点发送。5. 避坑排查讲义落地时最容易翻车的五件事这份材料的形态决定了它的坑和纯代码包不一样。代码包翻车在依赖冲突讲义翻车在内容时效、导出格式和现场环境。下面五条都是我在实际使用中撞过的。5.1 数据过期半年前的参数规模已经对不上了现象讲到参数规模时PPT 上的数字和听众手机里查到的对不上现场有人举手纠正节奏直接断掉。原因这类通识讲义里引用的参数规模、模型数量、榜单排名本质上是快照。材料整理于某个时间点里面的量级描述在当时是准确的但半年后新模型出来同一段话就变成了“过时但不完全错”最尴尬。解决把所有会过期的数字集中成一张“时效页”讲的时候单独一页、单独一句“这页数字截至材料整理时讲完就翻过去”。具体数字改成量级表述比如“千亿级”而不是精确到某一位数。真正需要精确对比的地方改用“同一量级的两个模型在同一个任务上的相对差距”这类不容易过期的结论。我在自己的版本里把原文所有精确参数都换成了量级加括号备注翻车率降到零。5.2 PPT 转讲义公式、表格、图注在导出时集体错位现象从可编辑格式导出成 PDF 或长图发出去表格跨页断行图注跑到下一页公式变成一串乱码方块。原因可编辑格式里的表格和图注是浮动对象导出时按页面切分跨页就会被强行拆开。公式如果是图片形式缩放后失真如果是文本形式字体没嵌入就会掉字。解决导出前做三件事——把所有跨页表格手动拆成两页并补表头把公式统一转成图片并锁定宽高图注改成“上图/左图”这类相对指代不依赖位置。导出格式优先选能保留字体的方式。我一般会先导一份自己从头翻到尾重点看第 3 板块那几页密集的对比表那是断行重灾区。5.3 学员机器跑不动三种不同的“跑不动”现象上机环节有人说卡在下载、有人说跑起来但一分钟出一个字、有人直接报显存不足。原因这三种是完全不同的问题。下载卡住通常是模型文件太大加网络不稳一分钟一个字是模型有一半层卸载到了 CPU显存不足是num_ctx或模型规模超过了卡的容量。现场如果不区分统一回一句“你机器不行”学员就放弃了。解决给一张三行排查表。先看日志里有没有“分配到 GPU 的层数”这一行层数为 0 就是纯 CPU 在跑调num_gpu再看有没有 OOM 关键字有就降num_ctx或换更小的量化档两者都没有但很慢检查是不是在跑半精度而非量化版。准备一个 3B 级别的小模型作为兜底8GB 以下的机器直接切过去保证每个人都有一次完整的“跑通”体验这比让他跑一个 70B 然后失败重要得多。5.4 把演示效果当成能力上限现象课上演示了一个效果很好的例子学员回去拿自己的真实数据一试结果差一大截反馈说“讲的和实际不一样”。原因演示案例是挑过的。短文本、结构清晰、领域通用这三个条件凑齐了效果自然好。真实业务数据往往长、脏、领域性强正好踩在模型的弱项上。解决每讲一个成功案例配一个同类型的失败案例。我固定的搭配是改写一条清晰的产品描述成功再改写一条带大量缩写和内部代号的工单失败。两个案例放在一页上比讲十句“要注意边界”有效。另外演示时把输入完整展示出来包括长度和格式让学员能自己判断“我的数据比这个难多少”。5.5 引用与合规边界现象讲义里引用了外部图表、案例、数据对外分享时被指出出处标注不全。原因教学内部使用和对外发布的标准不一样。讲义整理时为了方便图表可能只标了大致来源对外讲就得补齐。解决把材料里所有非原创图表单独列一张清单逐条补出处找不到出处的直接替换成自己画的示意图。涉及具体机构、人物的案例统一改成代称讲“某团队的做法”不点名。这一条不是形式主义现场被问住一次整场分享的可信度就没了。6. 迭代与验证把这份讲义改成自己的版本讲义给的是骨架讲得好不好取决于往里填什么。我用下来最有效的三件事都在“验证”上不在“补充内容”上。6.1 每讲完一节留三个固定问题不讲“大家还有问题吗”改问三个具体的这一节里哪个词你还没弄明白、如果让你用一个生活里的例子类比它你会怎么比、你觉得它最可能在什么场景下失效。第三个问题是最有价值的它逼听众主动去想边界而不是被动接收结论。这三个问题我抄在一张卡片上每节结束前三十秒拿出来不占时间但效果稳定。6.2 建一份最小可跑 Demo 清单上机环节最怕临时找环境。我的清单固定四行每行都对应讲义里的一个知识点Demo对应的讲义知识点耗时失败兜底用一句话让模型解释“逐词元预测”原理3 分钟换 3B 小模型同一提示词跑三次对比输出差异特点随机性5 分钟把温度调到 0.9 制造差异让它写一个函数并当场运行应用领域代码8 分钟改成改错题给一段有 bug 的代码让它调用一个本地工具查天气智能体10 分钟退化成手工演示调用流程6.3 版本节流只跟三条线这类通识材料的更新频率远高于教材全量跟进不现实。我只跟三条线参数规模的量级有没有跨档、主流模型形态有没有结构性变化比如从纯文本走向多模态、部署工具的默认参数有没有改。前两条决定讲义的框架要不要动第三条决定代码块还能不能直接抄。其他变化比如某个模型的排名升降一律不跟。从那以后我每次拿到这类通识讲义都强制自己先把部署那一章从头跑一遍跑通了再动 PPT。有一次我跳过这步直接改讲稿结果现场num_ctx设太大八分钟的演示卡了六分钟那是我最不想回忆的一次课。现在这份检查清单就贴在我显示器边上每次开讲前走一遍。希望帮到你。本文还有配套的精品资源点击获取