尧图企业网站定制 尧图 YAOTU WEB
咨询热线 400-888-6688 立即定制
资讯动态

LongLLMLingua2：GPT-4级压缩速度提升6倍

发布时间：2026/9/25 17:42:30 来源：尧图企业网站定制
微
一句话总结四大核心模块粗粒度（问题感知 PPL）：让"问题"接在文档后，问题困惑度越低 → 文档越关键 → 留下来。细粒度（对比 PPL）：看到问题前后 PPL 下降越多 → token 越关键 → 保留。动态压缩比 + 重排：关键文档少压、放首尾；冷门文档狠压。子序列恢复：用 LCS 把答案中的人名/术语回贴到原文，避免"切碎"。提示词压缩技术： LongLLMLingua2 实际计算过程LongLLMLingua2 最大的突破是彻底抛弃了"困惑度"这套复杂的计算方式，把提示词压缩变成了一个简单的"二分类问题"：给每个token打个分，0分直接删，1分必须留。它的速度比LongLLMLingua1快3-6倍，效果更好，是现在工业界的绝对首选。一、先搞懂：LongLLMLingua2 是怎么"学会"压缩的？收集了几十万条不同任务的"问题+上下文+答案"数据把这些数据喂给GPT-4，让GPT-4标注：“在这段上下文里，哪些token是回答这个问题必须保留的？”用这些GPT-4标注的数据，训练了一个很小的
返回资讯列表 →
RELATED · 相关阅读

延伸阅读

戴森球计划终极蓝图库：如何快速搭建高效自动化工厂的完整指南
2026/8/19 18:30:56

戴森球计划终极蓝图库：如何快速搭建高效自动化工厂的完整指南
3小时完成汽车智能升级：openpilot完整安装指南让普通车辆拥有高级驾驶辅助
2026/8/19 16:21:01

3小时完成汽车智能升级：openpilot完整安装指南让普通车辆拥有高级驾驶辅助
基于Netburner NANO54415构建工业级嵌入式Web服务器：从硬件选型到广域监控实战
2026/8/20 16:41:00

基于Netburner NANO54415构建工业级嵌入式Web服务器：从硬件选型到广域监控实战
ESP32驱动ILI9488并行TFT实现毫秒级实时时钟显示
2026/8/20 11:12:12

ESP32驱动ILI9488并行TFT实现毫秒级实时时钟显示
如何快速上手Mobaxterm中文版：远程终端工具的终极指南
2026/8/20 9:32:18

如何快速上手Mobaxterm中文版：远程终端工具的终极指南
3d打印资料笔记
2026/8/25 2:38:56

3d打印资料笔记
戴森球计划终极蓝图库：如何快速搭建高效自动化工厂的完整指南
2026/8/19 18:30:56

戴森球计划终极蓝图库：如何快速搭建高效自动化工厂的完整指南
3小时完成汽车智能升级：openpilot完整安装指南让普通车辆拥有高级驾驶辅助
2026/8/19 16:21:01

3小时完成汽车智能升级：openpilot完整安装指南让普通车辆拥有高级驾驶辅助
基于Netburner NANO54415构建工业级嵌入式Web服务器：从硬件选型到广域监控实战
2026/8/20 16:41:00

基于Netburner NANO54415构建工业级嵌入式Web服务器：从硬件选型到广域监控实战
442页DeepSeek银行财富管理客户流失预警方案：行为序列建模与R1模型适配工程手册
2026/9/25 17:42:11

442页DeepSeek银行财富管理客户流失预警方案：行为序列建模与R1模型适配工程手册

简介：这份442页的PDF方案面向银行财富管理领域的算法工程师、风控建模人员与金融科技研究者，聚焦客户流失预警这一核心业务难题，系统讲解如何借助DeepSeek-R1完成行为序列分析与动态风险偏好建模。内容从行业痛点拆解切入，依次覆盖…
行人检测数据集实操指南：标注验证与格式转换
2026/9/25 17:42:11

行人检测数据集实操指南：标注验证与格式转换

1. 这个“免费下载”的行人检测数据集，到底值不值得你花30分钟去搭环境？“【免费下载】行人检测数据集（已标注）”——看到这个标题，我第一反应不是点开，而是立刻打开终端，cd进一个空文件夹&…
DeskcommCRM实操拆解：沟通即记录，客户数据自然沉淀
2026/9/25 17:41:31

DeskcommCRM实操拆解：沟通即记录，客户数据自然沉淀

第一次看到“DeskcommCRM”这个名字的时候，我愣了几秒。Desk、comm、CRM，三个词拼在一起，乍一看像某个小团队随手起的内部代号，但拆开细品，你会发现这个命名其实把产品的定位全写在脸上了：Desk 代表桌面端的…
电控工程师如何用开源项目打造可验证的工程能力
2026/9/25 17:41:11

电控工程师如何用开源项目打造可验证的工程能力

1. 为什么电控岗简历石沉大海？不是你不够努力，是工程经历缺了“可验证的锚点”秋招季刚开闸，我连续三周盯着邮箱刷新页面，投出去的电控岗位简历像被黑洞吸走——已读不回、杳无音信。直到帮一位学弟改简历时，他递来一份…
工业机器人380V供电质量合规性工程指南
2026/9/25 17:41:11

工业机器人380V供电质量合规性工程指南

1. 为什么380V供电不是“插上就能用”——工业机器人集成现场最常被低估的电气门槛“库卡接380V？不就是三根线嘛，找个电工拧紧就行。”这句话我去年在华东某汽车焊装车间听到了不下五次。结果呢？一台KUKA KR6 R900刚通电试运行23分钟&#xf…
Tomcat启动后浏览器无法访问？8080端口排查全指南
2026/9/25 17:41:11

Tomcat启动后浏览器无法访问？8080端口排查全指南

1. 从一次"经典翻车"说起：Tomcat起来了，浏览器却打不开如果你刚把 Tomcat 解压完，双击了startup.bat，看着控制台窗口刷出一堆日志，最后停在那句熟悉的Server startup in xxx ms，心里正美滋滋地打…
Spring AI 跑 RAG、MCP 到多 Agent 编排：Key 用 TaoToken
2026/9/25 10:37:13

Spring AI 跑 RAG、MCP 到多 Agent 编排：Key 用 TaoToken

/* MD / 富文本中的 .toc（含博客园搬家等嵌套结构）；.toc-box 在侧栏，不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p（:empty 仍占 20px），一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …
YOLO26是假命题：五代模型真实能力与部署避坑指南
2026/9/25 3:50:00

YOLO26是假命题：五代模型真实能力与部署避坑指南

1. YOLO26不是“下一代”，而是社区自发命名的混淆信号YOLO26这个名称在2025年下半年突然密集出现在GitHub Issues、知乎技术帖、Bilibili部署教程弹幕和CSDN评论区，但翻遍Ultralytics官方仓库、arXiv最新论文库、CVPR 2025接收列表，甚至PyPI包…
Atlas 300V 24G 推理加速卡部署 YOLO 全流程实战
2026/9/25 3:44:27

Atlas 300V 24G 推理加速卡部署 YOLO 全流程实战

关于“Atlas”“Atlas 部署 YOLO”以及“Atlas 300V 24G 是不是运算加速卡”这几个问题，我在实际项目里正好都用过一轮，踩了一些坑，也总结了一套能直接跑的流程。这篇文章就以 Atlas 300V 24G 为例，从硬件定位、部署环境、YOLO 模…
华为EC6108V9A免拆机刷机全攻略：从ADB连接到固件安装
2026/9/25 1:00:59

华为EC6108V9A免拆机刷机全攻略：从ADB连接到固件安装

/* MD / 富文本中的 .toc（含博客园搬家等嵌套结构）；.toc-box 在侧栏，不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p（:empty 仍占 20px），一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …
vim使用手册
2026/9/25 1:00:59

vim使用手册

让光标停留在单词的第一个字母上， 然后输入yw拷贝该单词， 然后输入 / (Ctrl R) 0 （即 /"0），回车， 就查找到了第一个匹配的单词， 并且通过 n 或 N 进行上一个或下一个的匹配。打开文件后…
Chrome WebGL无法创建？从上下文原理到开启与排查的完整指南
2026/9/25 1:00:59

Chrome WebGL无法创建？从上下文原理到开启与排查的完整指南

/* MD / 富文本中的 .toc（含博客园搬家等嵌套结构）；.toc-box 在侧栏，不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p（:empty 仍占 20px），一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …
从零到一构建开源项目的完整历程：交付前的最后检查怎么做
2026/9/24 15:20:30

从零到一构建开源项目的完整历程：交付前的最后检查怎么做

从零到一构建开源项目的完整历程：交付前的最后检查怎么做能运行的原型与可稳定发布的开源项目之间，通常还需要补齐测试、文档、兼容性和发布流程。 在开源项目的早期阶段，很多开发者倾向于“快速出 Demo，出了问题再修”。 可一旦项…
分布式服务的决策记录
2026/9/25 17:28:23

分布式服务的决策记录

分布式服务的决策记录架构演进最怕只有结果没有理由。一次拆分、缓存或队列调整，都应写明当时的瓶颈、备选方案、选择原因和撤回条件。 记录的最小单位 用一页说明解决的任务、依赖、风险和验证方式即可。别把决定写成永远正确的准则；前提变化时&#xf…
持续集成 流水线自动化与 声明式交付 实践：原型怎样变成可用功能
2026/9/25 17:28:21

持续集成 流水线自动化与 声明式交付 实践：原型怎样变成可用功能

持续集成 流水线自动化与 声明式交付 实践：原型怎样变成可用功能分类：[AI/大模型]细分主题：AI 增强型 CI/CD 流水线自动化与 GitOps 实践：Agent 工作流、工具调用与任务拆解：从原型到生产的验收清单很多团队在尝试用大…

读完文章，也想定制专属网站？

尧图设计师 24 小时内与您沟通定制方案

免费获取报价 →
↑