这次我们来看一个用 Rust 开发 AI Agent 的实战项目重点是完成 GAIA Level 1 基准测试。GAIA 是一个旨在评估 AI 系统在真实世界、多模态任务中解决能力的基准测试集而 Level 1 是其入门级别。对于想用 Rust 构建稳定、高效 AI Agent 的开发者来说能否通过这个测试是检验 Agent 基础能力的关键一步。本文的核心不是空谈 Agent 架构而是直接切入如何用 Rust 搭建一个能实际运行、能处理 GAIA 测试任务的 AI Agent。我们会重点关注环境搭建、依赖管理、与 LLM 的交互、多模态任务处理以及最终的测试验证流程。如果你关心 Rust 在 AI 领域的工程化实践想了解如何构建一个能处理复杂指令的本地 Agent这篇文章会提供一条清晰的路径。我们将从零开始梳理使用 Rust 开发 AI Agent 并挑战 GAIA Level 1 测试的完整流程。内容包括核心依赖选择、项目结构设计、与 OpenAI 或本地模型 API 的集成、处理文本和潜在的多模态输入、解析并执行 GAIA 测试任务以及最终的效果评估和性能观察。1. 核心能力速览在深入代码之前我们先快速了解这个 Rust AI Agent 项目针对 GAIA 测试的核心定位和能力边界。能力项说明项目类型使用 Rust 语言开发的 AI Agent 框架/示例专注于通过 GAIA 基准测试。核心目标构建一个能理解复杂指令、调用工具/API、处理多模态信息如图片、文档并给出准确答案的 AI 系统。主要功能1. 与大型语言模型LLMAPI 交互如 OpenAI, Anthropic, 本地模型。2. 解析 GAIA 测试任务JSON格式。3. 根据任务描述模拟或实际调用工具如计算器、网络搜索、文件读取。4. 整合多轮思考ReAct模式和工具调用结果生成最终答案。技术栈Rust (主语言),reqwest/serde(HTTP/JSON),tokio(异步), 各 LLM API SDK。硬件门槛无特殊 GPU 要求。Agent 本身是逻辑控制器计算负载取决于后端 LLM 服务。如果使用云端 API如 GPT-4则只需网络如果集成本地模型则需相应 GPU 资源。启动方式通过cargo run执行二进制程序通常需要配置 API 密钥和环境变量。是否支持 API是。Agent 本身可以作为服务提供 API但本文示例更侧重于一次性执行测试任务。是否支持批量任务是。可以遍历 GAIA Level 1 测试集逐个或并发执行任务并汇总结果。适合场景1. 学习 Rust 与 AI 应用开发。2. 研究 AI Agent 架构与基准测试。3. 构建需要稳定、高性能后端逻辑的 AI 应用原型。2. 适用场景与使用边界这个 Rust AI Agent 项目主要适合以下几类开发者Rust 学习者想通过一个具体的、前沿的 AI 项目来巩固 Rust 技能学习异步编程、错误处理和模块化设计。AI 应用开发者不满足于仅仅调用 Chat 接口希望构建能自主规划、使用工具的智能体并需要一个高效、安全的后端实现。基准测试研究者希望复现或改进在 GAIA 等基准测试上的表现需要一个可定制、可扩展的代码基础。它能解决什么问题抽象 LLM 交互封装不同 LLM 供应商的 API 调用提供统一的对话接口。任务规划与分解将 GAIA 中的复杂问题如“计算图片中物体的数量并总结”分解为一系列可执行的步骤识别图片内容、计数、组织语言。工具调用编排管理外部工具如计算器、浏览器、文件系统的调用逻辑和结果整合。测试自动化自动加载测试套件、运行 Agent、比对答案、计算准确率。它不适合什么场景端到端的模型训练本项目不涉及训练新的 LLM 或视觉模型而是利用现有模型。开箱即用的商业产品这是一个技术演示和开发框架需要根据具体业务逻辑进行大量二次开发。极度轻量级的边缘部署虽然 Rust 本身高效但集成完整的 LLM 调用链和多模态处理仍有一定复杂度。合规与安全边界API 密钥管理务必安全存储 OpenAI 等服务的 API 密钥避免泄露。数据隐私如果处理的 GAIA 测试数据或用户数据包含敏感信息需确保符合数据保护法规。工具调用安全Agent 调用的工具如执行系统命令、访问网络必须有严格的权限控制和输入验证防止任意代码执行。版权与授权GAIA 数据集本身有其使用许可需遵守。Agent 生成的内容应注意版权问题。3. 环境准备与前置条件开始之前请确保你的开发环境满足以下要求。1. 操作系统推荐Linux (Ubuntu 20.04) 或 macOS。支持Windows 10/11 (需安装 WSL2 或使用 MSVC 工具链体验更佳)。2. Rust 工具链这是核心依赖。我们将使用rustup来管理 Rust 版本。# 安装或更新 rustup curl --proto https --tlsv1.2 -sSf https://sh.rustup.rs | sh # 安装完成后配置当前 shell source $HOME/.cargo/env # 安装稳定版 Rust 工具链 rustup install stable rustup default stable # 验证安装 rustc --version cargo --version建议使用 Rust 1.70 或更高版本。3. 网络访问项目需要从crates.io下载依赖。如果网络环境不佳可以配置国内镜像源以加速。# 编辑或创建 ~/.cargo/config 文件 vim ~/.cargo/config添加以下内容以中科大镜像为例[source.crates-io] replace-with ustc [source.ustc] registry git://mirrors.ustc.edu.cn/crates.io-index4. 后端 LLM 服务你需要一个可访问的 LLM API 端点。选项A云端简单准备一个 OpenAI API 密钥或 Anthropic、DeepSeek 等。选项B本地复杂部署一个本地 LLM 服务如通过ollama、vLLM或text-generation-webui提供 API。这需要额外的 GPU 资源和部署步骤。5. GAIA 数据集从 GAIA 官方仓库或指定渠道下载 Level 1 测试集。通常是一个包含 JSON 文件的目录每个 JSON 文件描述一个任务及其标准答案。6. 可选开发工具IDEVS Code 搭配rust-analyzer插件或 JetBrains CLion。调试lldb或gdb。4. 项目初始化与依赖配置我们将创建一个新的 Rust 项目并添加必要的依赖。1. 创建新项目cargo new rust_ai_agent_gaia --bin cd rust_ai_agent_gaia--bin表示创建一个可执行程序二进制项目。2. 编辑Cargo.toml文件这是项目的依赖清单。我们将添加用于 HTTP 请求、JSON 解析、异步运行时、环境变量读取和错误处理的库。[package] name rust_ai_agent_gaia version 0.1.0 edition 2021 [dependencies] # 异步 HTTP 客户端用于调用 LLM API reqwest { version 0.12, features [json, stream] } # JSON 序列化/反序列化 serde { version 1.0, features [derive] } serde_json 1.0 # 异步运行时 tokio { version 1.0, features [full] } # 方便地处理环境变量 dotenvy 0.15 # 更友好的错误处理 anyhow 1.0 thiserror 1.0 # 命令行参数解析 clap { version 4.0, features [derive] } # 用于日志输出 tracing 0.1 tracing-subscriber 0.3 # 如果需要处理图像/多模态可添加 image 库 # image 0.243. 配置环境变量创建一个.env文件来存储敏感信息切勿提交到版本控制。# .env 文件示例 OPENAI_API_KEYsk-your-openai-api-key-here OPENAI_API_BASEhttps://api.openai.com/v1 # 如果使用其他兼容API可修改 GAIA_DATA_PATH./data/gaia_level_1 # GAIA 测试集本地路径 LLM_MODELgpt-4-turbo-preview # 或 gpt-3.5-turbo, claude-3-haiku-20240307 等4. 基础项目结构创建基本的源代码结构src/ ├── main.rs # 程序入口 ├── agent/ # Agent 核心逻辑模块 │ ├── mod.rs │ ├── core.rs # Agent 结构体、状态管理 │ └── reactor.rs # ReAct 循环逻辑 ├── llm/ # LLM 客户端模块 │ ├── mod.rs │ ├── client.rs # 通用 LLM 客户端 trait 和实现 │ └── openai.rs # OpenAI 特定实现 ├── tools/ # 工具定义模块 │ ├── mod.rs │ ├── calculator.rs │ ├── web_search.rs # 模拟或真实搜索 │ └── file_reader.rs ├── gaia/ # GAIA 数据处理模块 │ ├── mod.rs │ ├── task.rs # 任务结构定义 │ └── evaluator.rs # 评估逻辑 └── config.rs # 配置加载在src/main.rs中声明这些模块mod agent; mod config; mod gaia; mod llm; mod tools; use anyhow::Result; #[tokio::main] async fn main() - Result() { // 初始化日志 tracing_subscriber::fmt::init(); // 加载配置 dotenvy::dotenv().ok(); // ... 后续逻辑 Ok(()) }5. 核心模块实现LLM 客户端与 Agent 引擎这是项目的核心。我们将实现一个简单的 LLM 客户端和一个基于 ReAct 模式的 Agent。1. 实现 LLM 客户端 (src/llm/client.rs)首先定义一个 trait以便未来支持不同的 LLM 提供商。use async_trait::async_trait; use serde::{Deserialize, Serialize}; use thiserror::Error; #[derive(Error, Debug)] pub enum LlmError { #[error(HTTP request failed: {0})] RequestFailed(#[from] reqwest::Error), #[error(API error: {0})] ApiError(String), #[error(Deserialization error: {0})] ParseError(#[from] serde_json::Error), } #[derive(Debug, Serialize, Deserialize)] pub struct LlmMessage { pub role: String, // system, user, assistant pub content: String, } #[derive(Debug, Serialize)] struct ChatCompletionRequest { model: String, messages: VecLlmMessage, temperature: f32, } #[derive(Debug, Deserialize)] struct ChatCompletionResponse { choices: VecChoice, } #[derive(Debug, Deserialize)] struct Choice { message: LlmMessage, } #[async_trait] pub trait LlmClient: Send Sync { async fn chat_completion(self, messages: VecLlmMessage) - ResultString, LlmError; } pub struct OpenAIClient { api_key: String, base_url: String, model: String, client: reqwest::Client, } impl OpenAIClient { pub fn new(api_key: String, base_url: String, model: String) - Self { Self { api_key, base_url, model, client: reqwest::Client::new(), } } } #[async_trait] impl LlmClient for OpenAIClient { async fn chat_completion(self, messages: VecLlmMessage) - ResultString, LlmError { let url format!({}/chat/completions, self.base_url); let request_body ChatCompletionRequest { model: self.model.clone(), messages, temperature: 0.7, }; let response self .client .post(url) .bearer_auth(self.api_key) .json(request_body) .send() .await?; if !response.status().is_success() { let error_text response.text().await.unwrap_or_default(); return Err(LlmError::ApiError(format!(Status: {}, Body: {}, response.status(), error_text))); } let api_response: ChatCompletionResponse response.json().await?; api_response .choices .first() .map(|choice| choice.message.content.clone()) .ok_or_else(|| LlmError::ApiError(No completion in response.to_string())) } }2. 实现简单的 ReAct Agent (src/agent/core.rs)ReAct (Reasoning Acting) 是 Agent 常用的模式思考 - 决定行动 - 执行工具 - 观察结果 - 循环。use crate::llm::LlmClient; use crate::tools::Tool; use std::sync::Arc; pub struct AgentC: LlmClient { llm_client: ArcC, tools: VecBoxdyn Tool, max_steps: usize, } implC: LlmClient AgentC { pub fn new(llm_client: ArcC, tools: VecBoxdyn Tool, max_steps: usize) - Self { Self { llm_client, tools, max_steps, } } pub async fn run(self, initial_prompt: str) - ResultString { let mut conversation_history vec![ crate::llm::LlmMessage { role: system.to_string(), content: You are a helpful AI assistant that can use tools. When you need to use a tool, output a JSON object like {\action\: \ToolName\, \action_input\: \input\}. After the tool returns, I will give you the observation..to_string(), }, crate::llm::LlmMessage { role: user.to_string(), content: initial_prompt.to_string(), }, ]; for step in 0..self.max_steps { // 1. 让 LLM 思考并决定下一步行动 let llm_response self.llm_client.chat_completion(conversation_history.clone()).await?; conversation_history.push(crate::llm::LlmMessage { role: assistant.to_string(), content: llm_response.clone(), }); // 2. 尝试解析 JSON 动作简化版实际需更健壮的解析 if let Ok(action) serde_json::from_str::serde_json::Value(llm_response) { if let (Some(action_name), Some(action_input)) (action.get(action).and_then(|v| v.as_str()), action.get(action_input)) { // 3. 查找并执行工具 if let Some(tool) self.tools.iter().find(|t| t.name() action_name) { let observation tool.execute(action_input).await?; conversation_history.push(crate::llm::LlmMessage { role: user.to_string(), content: format!(Observation: {}, observation), }); continue; // 继续循环 } } } // 4. 如果没有检测到有效工具调用或 LLM 直接给出了最终答案则结束 // 这里简单判断如果响应中没有明显的“Action:”模式且步数0或响应看起来像最终答案则退出。 // 这是一个非常简化的逻辑实际应用需要更精细的终止条件判断。 if !llm_response.contains(Action:) || step 2 { return Ok(llm_response); } } Err(anyhow::anyhow!(Reached max steps without final answer.)) } }3. 定义工具 Trait (src/tools/mod.rs)use async_trait::async_trait; use serde_json::Value; use thiserror::Error; #[derive(Error, Debug)] pub enum ToolError { #[error(Execution error: {0})] ExecutionError(String), } #[async_trait] pub trait Tool: Send Sync { fn name(self) - str; fn description(self) - str; async fn execute(self, input: Value) - ResultString, ToolError; } // 示例工具计算器 pub mod calculator; pub mod web_search; // 模拟工具 pub mod file_reader; pub fn get_all_tools() - VecBoxdyn Tool { vec![ Box::new(calculator::CalculatorTool::new()), // Box::new(web_search::WebSearchTool::new()), // Box::new(file_reader::FileReaderTool::new()), ] }一个简单的计算器工具实现 (src/tools/calculator.rs)use super::{Tool, ToolError}; use async_trait::async_trait; use serde_json::Value; use evalexpr::eval; pub struct CalculatorTool; impl CalculatorTool { pub fn new() - Self { Self } } #[async_trait] impl Tool for CalculatorTool { fn name(self) - str { Calculator } fn description(self) - str { Useful for performing arithmetic calculations. Input should be a mathematical expression like 2 2 or (3.14 * 5^2) / 2. } async fn execute(self, input: Value) - ResultString, ToolError { let expr input.as_str().ok_or_else(|| ToolError::ExecutionError(Input must be a string expression.to_string()))?; match eval(expr) { Ok(result) Ok(result.to_string()), Err(e) Err(ToolError::ExecutionError(format!(Calculation error: {}, e))), } } }记得在Cargo.toml中添加evalexpr和async-trait依赖。6. 集成 GAIA 测试与任务执行现在我们将 GAIA 测试任务加载进来并用我们构建的 Agent 去执行。1. 定义 GAIA 任务结构 (src/gaia/task.rs)use serde::{Deserialize, Serialize}; use std::path::PathBuf; #[derive(Debug, Deserialize, Serialize)] pub struct GaiaTask { pub task_id: String, pub question: String, pub answer: String, // 标准答案用于评估 // GAIA 可能包含文件路径如图片、文档 pub file_name: OptionString, pub file_path: OptionPathBuf, } impl GaiaTask { pub fn load_from_dir(data_dir: str) - ResultVecSelf, anyhow::Error { let mut tasks Vec::new(); for entry in std::fs::read_dir(data_dir)? { let entry entry?; let path entry.path(); if path.extension().and_then(|s| s.to_str()) Some(json) { let content std::fs::read_to_string(path)?; let task: GaiaTask serde_json::from_str(content)?; tasks.push(task); } } Ok(tasks) } }2. 构建任务执行管道 (src/main.rs主要逻辑)use crate::agent::Agent; use crate::config::Config; use crate::gaia::task::GaiaTask; use crate::llm::{LlmClient, OpenAIClient}; use crate::tools::get_all_tools; use std::sync::Arc; #[tokio::main] async fn main() - Result() { tracing_subscriber::fmt::init(); dotenvy::dotenv().ok(); let config Config::from_env()?; // 实现一个从环境变量加载配置的结构体 println!(Loaded configuration. Model: {}, config.llm_model); // 1. 初始化 LLM 客户端 let llm_client Arc::new(OpenAIClient::new( config.openai_api_key, config.openai_api_base, config.llm_model, )); // 2. 初始化工具和 Agent let tools get_all_tools(); let agent Agent::new(llm_client, tools, 10); // 最多10步 // 3. 加载 GAIA 任务 let tasks GaiaTask::load_from_dir(config.gaia_data_path)?; println!(Loaded {} GAIA tasks., tasks.len()); // 4. 遍历并执行任务这里顺序执行可改为并发以提高速度 let mut correct 0; for (i, task) in tasks.iter().enumerate() { println!(\n Task {}/{}: {} , i 1, tasks.len(), task.task_id); println!(Q: {}, task.question); let prompt format!(Please answer the following question: {}. Think step by step and use tools if needed., task.question); match agent.run(prompt).await { Ok(answer) { println!(Agent Answer: {}, answer); // 5. 简单评估检查答案中是否包含标准答案的关键信息实际评估更复杂 let normalized_answer answer.to_lowercase(); let normalized_expected task.answer.to_lowercase(); if normalized_answer.contains(normalized_expected) || normalized_expected.contains(normalized_answer) { println!(✅ Correct (approximate match)); correct 1; } else { println!(❌ Incorrect. Expected: {}, task.answer); } } Err(e) { println!(❌ Agent failed: {}, e); } } // 可选添加延迟以避免 API 速率限制 tokio::time::sleep(tokio::time::Duration::from_secs(2)).await; } // 6. 输出总体结果 let accuracy (correct as f32 / tasks.len() as f32) * 100.0; println!(\n Final Results ); println!(Total Tasks: {}, tasks.len()); println!(Correct: {}, correct); println!(Accuracy: {:.2}%, accuracy); Ok(()) }7. 运行测试与效果验证现在让我们启动 Agent 并观察它在 GAIA Level 1 测试集上的表现。1. 准备测试环境确保.env文件已正确配置 API 密钥和路径。将下载的 GAIA Level 1 测试集 JSON 文件放入./data/gaia_level_1/目录。确保网络通畅可以访问配置的 LLM API。2. 编译并运行在项目根目录执行cargo build --release cargo run --release第一次运行会下载并编译所有依赖可能需要几分钟。--release标志会进行优化运行速度更快。3. 观察运行过程程序启动后你将看到类似以下的输出Loaded configuration. Model: gpt-4-turbo-preview Loaded 50 GAIA tasks. Task 1/50: gaia_1_001 Q: What is the capital of France? Agent Answer: The capital of France is Paris. ✅ Correct (approximate match) Task 2/50: gaia_1_002 Q: Calculate the area of a circle with radius 5. Agent Answer: I need to calculate the area. Ill use the Calculator tool. Action: {action: Calculator, action_input: 3.14159 * 5 * 5} Observation: 78.53975 The area of the circle is approximately 78.54 square units. ✅ Correct (approximate match) ...4. 验证关键能力工具调用观察 Agent 是否在需要计算时正确输出了 JSON 格式的Action并成功调用Calculator工具获得Observation。多轮对话对于复杂问题Agent 应能进行多步思考和多次工具调用。答案匹配程序使用简单的字符串包含来判断正确性。对于 GAIA官方可能有更严格的评估脚本你可以后续集成。5. 性能与资源观察CPU/内存占用由于 Agent 逻辑轻量主要开销是网络 I/O 和 JSON 解析。使用top或htop观察Rust 进程的内存占用通常很低几十 MB。主要耗时耗时几乎全部集中在等待 LLM API 的响应上。每个任务的耗时取决于 LLM 的响应速度和任务复杂度。网络流量监控网络使用确保没有异常的请求失败或超时。API 成本如果使用 GPT-4 等付费模型注意运行大量测试任务可能产生费用。可以在代码中添加预算监控。8. 接口扩展与批量任务优化基础的顺序执行效率较低。我们可以将其改造成一个可配置、支持并发、并提供简单 API 的服务。1. 并发执行任务利用 Tokio 的异步任务进行并发处理但注意 API 的速率限制。use futures::stream::{self, StreamExt}; use tokio::sync::Semaphore; async fn run_tasks_concurrently(tasks: VecGaiaTask, agent: ArcAgentOpenAIClient, max_concurrent: usize) - VecTaskResult { let semaphore Arc::new(Semaphore::new(max_concurrent)); stream::iter(tasks.into_iter().enumerate()) .map(|(i, task)| { let agent Arc::clone(agent); let permit Arc::clone(semaphore); async move { let _permit permit.acquire().await; // 控制并发数 run_single_task(i, task, agent).await } }) .buffer_unordered(max_concurrent) // 并发执行 .collect() .await }2. 提供简单的 HTTP API使用axum或warp框架将 Agent 包装成服务。# Cargo.toml 添加 [dependencies] axum 0.7 tower-http { version 0.5, features [cors] }// src/api/mod.rs use axum::{routing::post, Json, Router}; use serde::{Deserialize, Serialize}; #[derive(Deserialize)] struct AgentRequest { question: String, } #[derive(Serialize)] struct AgentResponse { answer: String, steps: VecString, // 可记录思考步骤 } async fn handle_agent_request(Json(payload): JsonAgentRequest) - JsonAgentResponse { // 调用 agent.run(payload.question) ... let answer agent.run(payload.question).await.unwrap_or_else(|e| format!(Error: {}, e)); Json(AgentResponse { answer, steps: vec![], // 实际应从agent状态中提取 }) } pub fn create_api_router(agent: ArcAgentOpenAIClient) - Router { // 需要将 agent 通过状态共享给 handler Router::new().route(/ask, post(handle_agent_request)) // .with_state(agent_state) }然后可以在main函数中启动服务器。3. 批量任务队列对于超大批量任务可以引入消息队列如 Redis和工作线程池实现生产-消费模式提高可靠性和可扩展性。9. 常见问题与排查方法在开发和运行过程中你可能会遇到以下问题。问题现象可能原因排查方式解决方案cargo build失败网络错误网络问题或crates.io镜像未生效。运行ping crates.io检查连通性。检查~/.cargo/config配置。配置正确的国内镜像源或使用代理。运行时报错OPENAI_API_KEY not found.env文件未加载或变量名错误。检查.env文件是否存在、路径是否正确、变量名是否与代码中读取的一致。确保.env文件在项目根目录并在main.rs开头调用dotenvy::dotenv().ok();。LLM API 调用返回 401 或 403API 密钥无效、过期或没有权限。检查.env中的密钥是否正确。在命令行用curl测试 API 端点。重新生成 API 密钥并确认其对应的模型是否有权限调用。Agent 陷入无限循环或超时ReAct 循环的终止条件不清晰或 LLM 始终输出工具调用。增加日志打印每一步的conversation_history。检查max_steps参数是否设置过小。改进终止条件判断逻辑例如检测 LLM 输出中的“Final Answer:”关键词或设置更小的max_steps如5。工具调用解析失败LLM 输出的 JSON 格式不符合预期。打印出 LLM 的原始响应检查其格式。在系统提示词中更严格地规定 JSON 输出格式或在代码中使用更宽松的解析如正则表达式提取。处理 GAIA 图片/文件任务失败代码未实现多模态处理逻辑。当前示例仅处理文本。GAIA Level 1 可能包含需要读取文件的任务。扩展FileReaderTool并集成视觉模型 API如 GPT-4V来处理图像内容。需要将文件内容编码如 base64并放入提示词。并发运行时 API 速率限制短时间内发送过多请求。观察 API 返回的错误信息如429 Too Many Requests。在并发代码中添加令牌桶或固定延迟 (tokio::time::sleep)。使用Semaphore严格控制并发数。性能瓶颈每个任务串行等待 LLM 响应。使用tokio-console或简单日志记录每个任务的耗时。改为并发执行如上述第8点。对于本地模型考虑批量推理。10. 最佳实践与后续方向最佳实践配置管理不要将 API 密钥硬编码在代码中。始终使用.env文件或安全的配置服务。错误处理对网络请求、JSON 解析、工具执行进行充分的错误处理并使用?操作符或anyhow进行传播使错误信息可追溯。日志记录使用tracing库在不同级别INFO, DEBUG, ERROR记录关键事件便于调试和监控。测试驱动为工具函数、任务加载逻辑编写单元测试。为 Agent 的核心循环编写集成测试使用模拟的 LLM 客户端。版本控制将Cargo.toml、Cargo.lock和源代码纳入 Git 管理但忽略.env和target/目录。渐进式增强先从最简单的文本问答任务开始确保管道畅通再逐步添加工具、并发、API 和多模态支持。后续扩展方向集成更多工具实现真实的网络搜索用reqwest调用 SearxNG 或 Serper API、数据库查询、代码执行等。支持本地模型实现LlmClienttrait 的本地版本对接ollama、llama.cpp或vLLM的 API实现完全离线的 Agent。实现更复杂的 Agent 架构引入规划器Planner、记忆Memory模块支持更长期的任务和上下文管理。完善评估体系集成 GAIA 官方的评估脚本使用更精确的指标如精确匹配、模糊匹配、基于 LLM 的评估来衡量性能。构建 Web UI使用Leptos或YewRust 前端框架构建一个浏览器界面可视化地展示 Agent 的思考过程和工具调用链。部署与监控将 Agent 服务容器化Docker并添加健康检查、性能指标如 Prometheus和告警。通过这个项目你不仅完成了一个能通过 GAIA Level 1 测试的 Rust AI Agent 原型更搭建了一个可扩展的高性能 Agent 开发框架。Rust 带来的安全性和性能优势使其在构建需要长期运行、高并发的生产级 AI 应用后端时极具潜力。接下来你可以用更复杂的 GAIA 级别Level 2, Level 3或自定义任务集来挑战你的 Agent持续迭代和改进其能力。