本案例展示了如何使用LlamaIndex从PDF文档中获取信息并在回答中提供准确的页码引用同时支持流式响应输出。1. 案例目标本案例的主要目标是演示如何从PDF文档中提取内容并建立索引展示如何在查询响应中包含准确的页码引用实现流式响应输出提高用户体验提供源节点检查功能便于验证引用的准确性2. 技术栈与核心依赖LlamaIndex- 用于文档索引和查询的核心框架llama-index-llms-openai- OpenAI语言模型集成SimpleDirectoryReader- 用于读取PDF文档VectorStoreIndex- 用于创建向量索引OpenAI- GPT-3.5-turbo模型作为语言模型核心依赖安装%pip install llama-index-llms-openai !pip install llama-index3. 环境配置案例需要配置OpenAI API初始化语言模型from llama_index.llms.openai import OpenAI llm OpenAI(temperature0, modelgpt-3.5-turbo)4. 案例实现4.1 数据准备首先需要下载示例PDF文档Lyft 2021年10K报告!mkdir -p data/10k/ !wget https://raw.githubusercontent.com/run-llama/llama_index/main/docs/examples/data/10k/lyft_2021.pdf -O data/10k/lyft_2021.pdf4.2 文档加载与索引构建使用SimpleDirectoryReader加载PDF文档并创建向量索引from llama_index.core import SimpleDirectoryReader, VectorStoreIndex # 加载PDF文档 reader SimpleDirectoryReader(input_files[./data/10k/lyft_2021.pdf]) data reader.load_data() # 创建向量索引 index VectorStoreIndex.from_documents(data)4.3 查询引擎配置创建支持流式响应的查询引擎并设置返回最相似的3个文档片段query_engine index.as_query_engine(streamingTrue, similarity_top_k3)4.4 执行查询与流式响应执行查询并获取带有页码引用的流式响应response query_engine.query( What was the impact of COVID? Show statements in bullet form and show page reference after each statement. ) response.print_response_stream()4.5 源节点检查检查响应的源节点验证引用的准确性for node in response.source_nodes: print(-----) text_fmt node.node.get_content().strip().replace(\n, )[:1000] print(fText:\t {text_fmt} ...) print(fMetadata:\t {node.node.metadata}) print(fScore:\t {node.score:.3f})5. 案例效果案例实现了以下效果页码引用每个回答条目都包含准确的页码引用如(page 6)流式输出回答以流式方式逐步输出提高用户体验相关性评分每个源节点都有相关性评分如Score: 0.821元数据展示显示文档元数据包括文件名和页码标签示例输出• The ongoing COVID-19 pandemic continues to impact communities in the United States, Canada and globally (page 6).• The pandemic and related responses caused decreased demand for our platform leading to decreased revenues as well as decreased earning opportunities for drivers on our platform (page 6).• Our business continues to be impacted by the COVID-19 pandemic (page 6).6. 案例实现思路本案例的核心实现思路是元数据提取利用PDF加载器自动提取页码信息作为元数据向量索引将文档内容转换为向量并建立索引支持语义搜索查询处理将用户查询转换为向量在索引中查找最相关的文档片段响应生成将找到的相关片段和元数据传递给语言模型生成回答引用注入在生成的回答中自动注入源文档的页码引用7. 扩展建议多文档支持扩展为支持多个PDF文档的索引和查询并在引用中包含文档名精确引用不仅提供页码还可以提供段落或章节级别的精确引用引用格式自定义允许用户自定义引用格式如APA、MLA等学术引用格式交互式界面开发Web界面提供更友好的查询和结果展示体验多语言支持扩展支持非英语文档的索引和查询引用验证添加引用验证功能确保引用的准确性和可靠性8. 总结本案例展示了LlamaIndex在文档引用和页码标注方面的强大功能。通过结合PDF加载器的元数据提取能力和向量索引的语义搜索能力实现了准确、可靠的文档引用系统。这种技术在学术研究、法律文档分析、企业知识库等领域具有广泛的应用前景能够大大提高信息检索的准确性和可信度。