AI安全与伦理面试题完整清单提示注入、隐私合规与EU AI Act如何应对【免费下载链接】ai-engineering-interview-questionsYour Cheat Sheet for AI Engineering Interview – Questions and Answers.项目地址: https://gitcode.com/gh_mirrors/ai/ai-engineering-interview-questions本文基于开源项目ai-engineering-interview-questionsYour Cheat Sheet for AI Engineering Interview – Questions and AnswersAI 工程面试速查表整理出AI安全与伦理面试题完整清单覆盖提示注入防御、数据隐私合规GDPR/CCPA、EU AI Act 应对策略、模型偏见与对齐等核心考点并给出每题的应答思路帮助 AI 工程师、GenAI 工程师、LLM 工程师系统备战面试 为什么AI安全与伦理面试题越来越重要过去面试只考模型怎么跑得快现在面试官更关心模型跑起来会不会出事。一个 LLM 应用上线后可能面临 用户用越狱话术套取系统提示词或绕过安全限制 智能体读取邮件、网页等不可信内容时被间接注入导致数据外泄️ 用户要求 GDPR 解释而系统日志缺失无法自证清白⚖️ 产品被 EU AI Act 归类为高风险系统面临合规审查因此AI 安全与伦理已经从加分项变成 AI 工程师的必考项。开源项目 ai-engineering-interview-questions 专门设有 AI Safety, Ethics, and Responsible AI 章节集中收录了 40 多道高频面试题与场景题是备考的最佳起点。️ 1分钟定位核心题库知识地图整份题库以单文件 README.md 组织共 15 大模块。与安全伦理直接相关的章节如下建议面试前重点过一遍章节位置覆盖考点AI 安全、伦理与责任 AIREADME.md#L723-L775幻觉、注入、偏见、GDPR、EU AI Act、水印、事件响应提示工程注入与越狱README.md#L230-L233Prompt Injection、Jailbreak、系统提示词防泄漏AI 智能体安全风险README.md#L378-L387间接注入、数据外泄、智能体护栏Guardrails评测与红队测试README.md#L690-L721Red Teaming、幻觉检测、偏见评测生产环境 PII 处理README.md#L625输入/输出中的敏感数据处理 想离线刷题克隆仓库即可git clone https://gitcode.com/gh_mirrors/ai/ai-engineering-interview-questions️ 提示注入面试题直接注入与间接注入怎么答这是 AI 安全面试题中出现频率最高的一类题库中直接收录了 5 道相关题What is prompt injection, and what are the different types (direct, indirect)?README.md#L726What is jailbreaking in LLMs, and what are common jailbreak techniques?README.md#L232Your chatbots system prompt containing proprietary business logic is being leaked by users. How do you prevent it?README.md#L251Your agent reads untrusted content (emails, web pages, documents) and can call tools. How do you prevent indirect prompt injection and data exfiltration?README.md#L380Write code to detect prompt injection attempts in user inputs.README.md#L910应答思路4 步走区分类型直接注入用户输入里夹带恶意指令vs 间接注入网页/文档/邮件中的隐藏指令被智能体执行后者风险更高最小权限智能体的工具调用走白名单只授予必要权限高危操作写库、发消息、转账加人工确认隔离不可信内容把外部内容与系统指令明确分隔外部内容只当作数据而非指令检测 审计对输入做注入模式检测全链路记录日志便于事后追溯️ 护栏与内容安全输入输出 Guardrails 面试要点护栏Guardrails题在题库中出现 3 次属于送分但必须答全的题How do you implement input and output guardrails for AI systems?README.md#L728How do you implement content safety filters for AI-generated content?README.md#L741Your healthcare chatbot gives medical diagnoses it should not make. How do you add safety guardrails?README.md#L752标准答题框架层手段例子输入层输入校验、话题白名单、敏感词过滤拒绝超出业务范围的提问输出层输出过滤、PII 泄漏检测、事实一致性检查拦截身份证号、拒绝编造出处兜底层降级策略与人工接管医疗场景不确定时转人工并提示就医面试加分点能主动提到护栏不能 100% 拦截要与风险等级匹配——高风险场景医疗、金融必须叠加人工审核。 隐私合规面试题GDPR、CCPA 与 PII 处理题库在隐私合规上给出了 5 道非常真实的场景题What are the key data privacy considerations (GDPR, CCPA) when building AI applications?README.md#L733How do you handle PII in LLM inputs and outputs?README.md#L734Your AI denied a loan, and the customer demands a GDPR explanation. How do you provide one?README.md#L757A user invokes the right to be forgotten, but their data is in your model weights. How do you comply?README.md#L758You removed PII, but users were re-identified from anonymized data. How do you prevent re-identification?README.md#L768应答要点数据最小化只在必要范围收集调用模型前先做 PII 脱敏姓名、证件号、联系方式替换为占位符️可解释每个 AI 决策保留输入、输出、模型版本与时间戳GDPR 的解释权靠日志兑现被遗忘权数据在向量库/日志中可直接删除但已进入模型权重的数据很难精确移除需提前设计数据溯源哪些批次用了哪些来源防再识别匿名化 ≠ 安全多字段组合可能重新定位个人必要时采用差分隐私题库 README.md#L749 专设此题⚖️ EU AI Act 面试题高风险分类怎么合规EU AI Act 是近两年 AI 工程师面试的新晋高频题题库收录了 3 道What is the EU AI Act, and how does it affect AI engineering?README.md#L745The EU AI Act may classify your AI system as high-risk. How do you comply?README.md#L759How do you implement audit trails and logging for AI decisions?README.md#L746答题框架记住基于风险的分级分级不可接受风险禁止→ 高风险严格合规→ 有限风险透明度义务→ 最低风险自愿高风险系统义务清单风险管理体系、数据治理、技术文档与日志、透明度、人工监督、准确性/健壮性/网络安全落地动作上线前做风险定级评估为高风险场景建立审计日志与模型卡Model Card题库 README.md#L747保留人工否决通道加分提及 NIST AI RMF题库 README.md#L751说明它是美国侧对应的风险管理框架思路可互相借鉴 偏见、对齐与对抗攻击进阶考点这部分题目偏开放式适合展示工程判断力How do you detect and mitigate bias in AI systems?README.md#L732Your resume screening AI rejects more female candidates for engineering roles. How do you fix gender bias?README.md#L755What is AI alignment, and why is it important?README.md#L730What are adversarial attacks on AI systems, and how do you defend against them?README.md#L739A pre-trained model from an open-source repo may contain a hidden backdoor. How do you detect it?README.md#L769核心答题心法偏见不止查单一维度——题库特意设计了按性别、种族分别查都通过但交叉群体失败的陷阱题README.md#L756要主动提到交叉偏见与代理特征歧视README.md#L762对齐讲清 RLHF/DPO 的作用与对齐税越安全越保守说明对齐是持续评测而非一次训练️对抗攻击数据投毒、后门、提示注入统一用假设会被攻击的红队思维作答——输入、输出、数据管道、日志四条线逐一设防红队测试专题见 README.md#L720-L721AI 内容治理生成式内容加水印、建立申诉通道README.md#L764-L766 快速备考5步搞定AI安全与伦理面试题精读安全章节通读 README.md#L723-L775标记自己没答过的 5 道题背熟三大主题提示注入直接/间接、护栏输入/输出/兜底、隐私合规GDPR/CCPA/PII准备 3 个场景故事医疗聊天机器人越权诊断、贷款拒绝的 GDPR 解释、简历筛选的性别偏见——每个都按发现 → 止血 → 修复 → 预防讲搞懂两个法规EU AI Act 的风险分级 GDPR 的知情权/被遗忘权/解释权用红队思维收尾任何系统设计题主动补一句我会假设它被注入、被投毒、被滥用并逐条设防——这是区分新手和熟手的关键一句 项目资源文件速查文件说明README.md完整题库15 大模块、数百道面试题与场景题README.md#L723-L775AI 安全、伦理与责任 AI章节本文核心README.md#L217-L256提示工程章节含注入/越狱题README.md#L328-L421AI 智能体章节含智能体安全与护栏题README.md#L669-L721评测与测试章节含红队测试与偏见评测LICENSEApache License 2.0可自由学习与商用参考 项目持续更新中建议定期拉取最新版本补充新题。祝面试顺利安全与伦理题就是你的差异化优势【免费下载链接】ai-engineering-interview-questionsYour Cheat Sheet for AI Engineering Interview – Questions and Answers.项目地址: https://gitcode.com/gh_mirrors/ai/ai-engineering-interview-questions创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考