1. 项目概述当AI拥有“能动性”谁来决定它的“善”与“行善之地”最近和几位做AI伦理和社区应用的朋友聊天大家不约而同地提到了一个词“Agentic AI”。这个词直译过来是“能动性AI”听起来有点哲学但说白了就是那些能自主设定目标、规划步骤、调用工具去执行甚至能根据环境反馈自我调整的AI系统。它不再是那个你问一句、它答一句的“工具”而更像是一个能主动“做事”的“伙伴”或“代理”。当这种能力被投入到“Social Good”社会公益领域时事情就变得既激动人心又异常复杂。我们兴奋于AI能更高效地解决教育不平等、医疗资源匮乏、环境保护等老问题但随之而来的灵魂拷问是“Whose Good, Whose Place?”—— 这是谁的“善”又该在谁的“地盘”上行善这绝不是一个空泛的哲学问题。想象一下一个由硅谷工程师设计的、旨在优化偏远地区教育资源分配的Agentic AI它基于全球公开数据集和某种效率最大化算法决定关闭某个村庄里由本地志愿者经营了数十年的小型图书馆因为它“计算”出将资源集中到镇上的数字学习中心“更有效率”。这个决策在算法逻辑上可能是“最优解”但它摧毁的不仅仅是一个物理空间更是一个社区的文化纽带、老人的社交场所和孩子们对书本最原始的触觉记忆。这里的“Good”善是谁定义的“善”是工程师的“效率善”是投资人的“规模善”还是当地社区居民的“生活善”与“文化善”而那个村庄又是否是这台AI“应该”或“有权”介入并做出结构性改变的“Place”地方这个标题精准地指向了Agentic AI for Social Good为公益服务的能动性AI的核心困境道德的地理属性。技术本身或许是全球化的、去地域化的但“善”的实践、感知和后果却深深根植于具体的地方性知识、文化语境、权力结构和历史脉络之中。忽略这种“道德地理”再好的技术意图也可能导致“数字殖民”或“善意伤害”。今天我就结合自己观察和参与过的一些项目来拆解这个议题背后的技术逻辑、伦理考量和实操陷阱。无论你是技术开发者、公益项目管理者还是关心科技向善的普通读者理解这些“坑”或许能让我们在拥抱技术红利时多一份审慎与敬畏。2. 能动性AI的技术内核与公益场景的独特挑战要理解“道德地理”问题首先得明白Agentic AI到底“能”干什么以及公益场景为何让它显得格外“棘手”。2.1 Agentic AI的技术栈拆解从自动化到自主化Agentic AI不是一个单一模型而是一个系统架构。我们可以把它理解为一个具有高级认知功能的“数字员工”。它的核心能力通常建立在以下几层技术栈之上目标理解与分解层这是能动性的起点。系统需要理解一个模糊的人类指令如“改善本社区的青少年心理健康”并将其分解为一系列具体的、可操作的任务如“识别高风险个体”、“推荐干预资源”、“监测干预效果”。这依赖于大语言模型LLM对复杂语义的理解和规划能力。工具调用与执行层AI知道自己要做什么后需要“动手”。它需要能调用各种API和工具比如查询本地数据库获取社区服务列表、调用地图API规划志愿者上门路径、通过邮件或消息API发送提醒、甚至控制物联网设备收集环境数据。这要求系统有一个完善的“工具箱”和调用规范。记忆与状态管理为了完成多步骤任务AI必须有“记忆”。它需要记住之前的交互历史、执行过的操作、获取到的信息以及当前任务的进度。这通常通过向量数据库、传统数据库或简单的上下文窗口来实现确保其行为具有连续性。反思与迭代层这是高级能动性的体现。系统不仅执行计划还能根据执行结果成功、失败、意外反馈进行反思评估原有计划的有效性并动态调整后续策略。例如如果AI发现通过短信发送的心理健康问卷回复率极低它可能会反思并尝试改为通过社区领袖进行线下沟通。在公益场景中这些技术能力可以转化为非常具体的应用一个能7x24小时回答难民法律咨询问题的聊天机器人目标理解工具调用一个能自动分析卫星图像识别非法砍伐区域并生成巡检报告的系统目标分解工具调用一个能根据实时交通和灾情动态优化救援物资配送路线的调度AI规划迭代。2.2 公益场景的“高摩擦”环境为何这里问题更突出然而正是公益领域的特点让Agentic AI的引入充满了张力。与技术公司内部或消费级市场相比公益场景是一个典型的“高摩擦”环境数据稀疏且“脏”没有干净、标准、海量的标注数据。数据可能来自手写表格、不同方言的录音、模糊的现场照片且充满缺失值和矛盾信息。一个为城市交通设计的AI在这里可能寸步难行。基础设施脆弱网络不稳定、电力供应时有时无、终端设备老旧。你的AI可能设计了一个完美的手机App推送方案但目标社区的主要通讯工具可能是广播或口口相传。价值多元且冲突什么是“好结果”是覆盖人数最多还是对最弱势群体帮助最深是短期指标提升快还是长期社区能力建设更重要不同利益相关方捐赠方、执行机构、受益社区、政府可能有截然不同的答案且这些答案往往无法被量化成一个单一的损失函数。权力关系敏感公益项目常在资源不平等、历史遗留问题复杂的社区中开展。AI的决策如资源分配给A村而非B村可能无意中强化现有的权力结构或引发新的矛盾。当一个高度自主、追求“优化”的Agentic AI被投入到这样一个数据模糊、价值多元、权力敏感的环境中时“Whose Good, Whose Place?”的问题就会以极其尖锐的形式爆发出来。它的“优化”可能是在它所能理解的、有限的、且可能带有设计者偏见的数据和价值观基础上的“优化”。实操心得在公益场景中启动一个Agentic AI项目第一步永远不是写代码而是进行深度的“社会技术侦察”。这包括与社区成员同吃同住几天理解他们真实的信息流和决策方式梳理所有利益相关方及其潜在冲突评估现有数据的可信度与偏见。我曾见过一个项目因为直接使用了地方政府提供的“贫困户名单”作为AI分配资源的依据结果激化了社区内部矛盾因为那份名单本身就被认为不公。技术方案必须建立在对这种“地方性知识”的尊重之上。3. “Whose Good?”价值对齐困境与“善”的多元定义“社会公益”听起来是个美好的共识但一旦具体化分歧立现。Agentic AI需要明确的目标函数来驱动那么我们该把谁的“善”编程进去3.1 “善”的四种常见编码方式及其风险在实践中AI系统所追求的“Good”通常被编码为以下几种形式每一种都隐含了特定的价值观和风险功利主义之善最大化总体福利这是最常见也最“技术友好”的编码方式。例如在救灾物资分配中AI的目标可能是“最小化总运输时间”或“最大化物资覆盖人口”。这听起来很合理但其风险是可能牺牲边缘小群体的利益。为了“整体最优”AI可能永远优先服务交通便利的大聚居点而忽略那些居住分散、道路艰险的少数家庭。规则义务论之善遵守既定规则将公益组织或捐赠方的规章制度、项目手册作为最高准则。例如AI严格按“资助标准”筛选受助者。风险在于规则可能是僵化的、过时的或者无法涵盖复杂的现实情况。一个因特殊变故暂时不符合条文规定但极度需要帮助的家庭可能会被AI无情地拒之门外。美德伦理之善模仿“好专家”的行为通过大量标注数据让AI学习优秀社工或项目专家的决策模式。这比单纯规则更灵活。但风险是你模仿的“专家”样本可能本身就有偏见或者其工作模式无法规模化。更关键的是这会将特定群体通常是精英专家的价值观和判断固化到系统中。流程正义之善确保决策过程公平透明不过度强调结果而是确保AI的决策过程是可解释、可质疑、可参与的。例如AI在做出资源分配建议时必须生成清晰的理由并留有人工审核和社区反馈的通道。这可能是目前最值得倡导的方向但它对系统设计提出了更高要求并且可能“牺牲”一部分效率。3.2 价值对齐的实践框架从独白到对话让AI完全内化某种单一的、完美的“善”是不现实的。更可行的路径是设计一个价值对齐的流程让AI系统成为一个促进价值对话和协商的“媒介”而非终极的“裁决者”。以下是一个可操作的框架阶段一价值发现与映射在项目启动前通过访谈、研讨会、民族志研究等方法系统地识别所有关键利益相关方社区成员、 frontline workers、管理层、捐赠方等的核心价值诉求。使用价值排序卡片等工具可视化不同群体价值之间的异同与潜在冲突。这不是为了达成一致而是为了看清“价值地形图”。阶段二价值敏感的系统设计将上述发现转化为具体的设计选择。可调节的参数不把价值选择硬编码而是设计成可供本地管理者在合理范围内调节的参数。例如物资分配算法中“效率”与“公平”的权重滑块。解释与溯源功能AI的每一个重要决策都必须能生成人类可读的解释“我建议优先分配资源给A地区是因为综合考虑了以下因素灾害等级权重X、人口脆弱性指数权重Y、道路通达性权重Z...”。异议与上诉通道在AI系统内部建立正式的流程允许执行人员或受益者对AI决策提出异议触发人工复核或算法重新评估。阶段三嵌入迭代的反馈循环将AI系统部署为一个“学习系统”而非“交付系统”。建立机制持续收集系统决策的实际社会影响包括预期的和未预期的并将这些影响反馈给社区和设计团队用于定期重新评估和调整系统的价值权重与目标。常见问题与排查我们常遇到的一个困境是社区成员口头表达的价值诉求与其在长期实践中表现出来的行为模式不一致。例如大家可能都说“公平最重要”但历史数据却显示资源分配长期向某些家族倾斜。这时不能简单采信任何一方。解决方案是进行“参与式设计工作坊”用模拟情境如角色扮演、资源分配游戏让不同利益方在具体选择中暴露其真实的优先序并将这些矛盾点公开讨论作为系统设计必须处理的“核心张力”而不是试图掩盖或消除它们。4. “Whose Place?”地方性知识、文化语境与AI的“越界”风险如果说“Whose Good”关乎目标那么“Whose Place”则关乎边界和方式。AI在何处行动、如何行动必须尊重当地的社会文化肌理。4.1 地方性知识AI的“盲区”地方性知识是特定群体在长期生活中形成的、关于当地环境、社会关系、可行方法的实践性知识。它往往是隐性的、非文本的、情境化的。一个外来的AI系统极易忽略或误读这些知识导致“水土不服”甚至破坏性后果。案例剖析农业建议AI的失败一个旨在为小农户提供种植建议的Agentic AI接入了气象数据、土壤数据库和作物生长模型。它发现某地区雨季推迟于是建议农民推迟播种。从农学模型看这完全正确。但它不知道的是当地有一种世代相传的物候知识当某种特定树木开花时无论日历如何都标志着播种最佳时机的开始。这背后是对微观气候、土壤墒情和生态关联的深刻理解。农民们没有听从AI的建议而AI则将此标记为“用户不遵从”并可能在未来降低对该地区建议的优先级。AI不仅没有提供帮助反而因其“科学权威”性动摇了本地知识体系的信心造成了隐性伤害。4.2 文化语境与可接受性技术介入的礼仪即使技术方案本身有效其介入的方式也可能因文化差异而遭到抵制或误解。沟通风格一个设计为直接、高效、任务导向的AI助手在重视关系建立、讲究谈话前奏的文化中可能被视为粗鲁和不可信。决策权威在集体决策文化浓厚的社区一个直接向个体提供“最优”建议的AI可能破坏了社区内部的协商流程削弱了长老或领袖的权威从而引发整体性的不合作。隐私观念为了提供“精准”服务AI可能需要收集个人数据。但在一些社区个人信息被视为与家族和社群紧密相连个人无权单独处置更别说交给一个外来的“机器”。4.3 建立“地方智能”接口从提取到嵌入要让AI在某个“Place”中负责任地行动不能仅仅把它当做一个外部工具“投放”进去而需要为它建立与地方性知识系统连接的“接口”。我称之为“地方智能”接口。本地数据合伙人制度不将数据收集视为单向提取而是与本地社区成员或组织建立合伙关系。他们不仅是数据提供者更是数据的共同管理者、解释者和受益者。AI系统需要向他们开放数据访问和一定程度的控制权。混合智能工作流设计“人在回路中”的工作流将AI的自动化能力与本地人的情境判断能力结合起来。例如AI可以负责扫描卫星图像初步识别可能的非法建筑但最终的确认、背景调查是否属于历史遗留问题、是否有特殊家庭情况以及后续沟通必须由熟悉当地情况的社区协调员来完成。文化适配的交互设计AI的交互界面语音、文字、图像必须经过深度的本地化测试和适配。这不仅仅是语言翻译还包括对话脚本的设计、图标的含义、色彩的使用等都需要符合本地文化习惯和审美。有时一个简单的短信服务SMS可能比一个功能强大的App更有效、更可接受。设立“社会影响监测官”在项目团队中设立一个独立角色其核心职责不是看技术指标如准确率、响应时间而是持续监测和评估AI系统对当地社会关系、权力结构、文化实践的潜在影响并拥有叫停或要求修改系统的权力。实操心得在进入一个新社区前我们团队现在会强制做一个“社会技术边界测绘”练习。我们会画两张图一张是社区的物理与信息地图资源点、聚集地、信息如何流动另一张是权力与信任关系图谁受尊敬、谁有影响力、群体间有何历史恩怨或合作。然后我们会将计划中AI的每一个交互点如数据采集点、服务推送点、决策影响点在这两张图上标出并集体讨论这个点会强化还是削弱图中现有的某种关系是否有更合适、更“优雅”的介入点这个练习能有效避免很多想当然的错误。5. 构建负责任AI的实践清单从原则到检查点理论探讨之后我们需要更落地的工具。以下是一份在公益领域设计和部署Agentic AI时可以对照使用的实践清单。它不是一个僵化的标准而是一系列需要持续自问的问题。5.1 设计阶段检查点价值澄清我们是否清晰地识别了所有关键利益相关方我们是否通过具体场景而非抽象讨论揭示了他们之间可能存在的价值冲突系统的核心目标函数或规则是否反映了主要的价值选择这种选择是否经过公开讨论和认可我们是否为不同的价值权重留下了可调节的空间地方情境评估我们是否深入理解了目标社区的地方性知识体系特别是与项目领域相关的我们是否评估了AI的介入方式沟通、决策、数据收集是否符合当地的文化规范和社会礼仪我们是否识别了项目中敏感的“社会技术边界”技术架构考量系统是否具备必要的“解释能力”能否以普通人能理解的方式说明其重要决策的理由是否设计了“异议-上诉-复核”的流程系统是否支持“混合智能”工作流在关键环节保留有意义的人工判断和 override否决权数据管道的设计是否确保了本地社区对自身数据有足够的知情权和控制权5.2 部署与监测阶段检查点渐进式部署是否从小范围试点开始并有充足的观察和调整期试点是否包含了多样化的、有代表性的场景影响监测除了传统的技术性能指标准确率、速度我们是否定义了“社会影响指标”例如社区信任度变化、不同群体获得服务的差异度、本地工作人员工作满意度的变化等。是否有机制如定期社区会议、匿名反馈渠道持续收集关于AI系统的非预期后果和负面反馈问责与治理当系统出错或造成伤害时是否有明确的问责路径和补救机制技术问题找谁伦理问题找谁项目团队中是否有具备社会学科背景、专注于社会影响的成员并且其意见在决策中具有足够权重5.3 一个简易的“红队测试”方法在系统上线前组织一次“红队测试”。邀请项目团队外部的、熟悉当地情况或精通伦理的伙伴扮演“恶意用户”或“挑刺者”尝试从以下角度攻击你的系统设计价值攻击如何利用系统的规则使其做出符合我个人利益但违背公益初衷的决策语境攻击在什么样的本地文化或特殊情境下系统看似合理的行为会被严重误解或引发冲突边缘案例攻击找出那些不符合系统“典型用户画像”的极端边缘群体或案例看系统会如何对待他们是会崩溃还是会做出极其不公的决策通过这种压力测试往往能提前发现许多设计盲点。6. 未来展望走向谦逊与共治的技术“Whose Good, Whose Place?” 这个问题没有一劳永逸的答案。随着Agentic AI能力的增强这个问题的紧迫性只会与日俱增。它要求我们从根本上转变对技术的认知技术尤其是拥有自主行动能力的技术不再是中立的工具而是一个活跃的“社会行动者”。它被嵌入社会关系之中也重塑着社会关系。因此公益领域的AI实践必须从“技术解决方案主义”转向“社会技术共治”。这意味着从“为社区设计”到“与社区共同设计”社区成员不是被动的“用户”或“受益者”而是从问题定义、方案设计到评估监测全过程的共同创造者。从“追求最优解”到“管理复杂适应性”承认社会问题是复杂的、动态的、没有终极最优解的。AI系统的目标不是找到并执行那个“正确答案”而是帮助不同利益相关者更好地理解问题的复杂性促进更 informed 的对话与协商并在动态变化中不断学习和调整。从“黑箱自动化”到“玻璃箱协作”追求的不是完全的、不可解释的自动化而是人机之间透明、可理解、可干预的协作。AI的价值在于处理人类不擅长的海量数据计算和模式识别而人类的价值在于提供情境判断、伦理权衡和情感联结。最后我想分享一个最深的体会在公益领域做AI技术上的“能做”必须永远让位于伦理上的“应做”。最危险的时刻往往不是我们意识到自己无知的时候而是我们被技术的强大能力所迷惑以为自己已经足够了解一个社区、一种文化、一种“善”的时候。保持技术的谦逊坚守对人的尊重或许才是我们在这个充满希望的领域里避免重蹈历史上许多“好心办坏事”覆辙的唯一指南。这条路很难但正因为难才值得所有有良知的技术人和公益人一起走下去。