EU AI Act（2024）

📌 定义

欧盟《人工智能法案》（AI Act）是全球第一个全面监管 AI 风险的法律框架。它将 AI 系统按风险等级划分，并对“高风险”类别提出明确的合规要求。

📚 重点内容

  • 风险等级划分：最低风险、有限风险、高风险、禁止类
  • 高风险 AI 系统要求：
    • 风险评估文档（Risk Assessment）
    • 数据质量控制（Data Governance）
    • 记录保存与审计能力（Logging & Traceability）
    • 人类可监督机制（Human Oversight）
    • 明确模型用途（Intended Use）与禁止用途
  • 对于生成式 AI 模型：
    • 需标注 AI 内容（如 ChatGPT 生成内容必须可识别）
    • 防止虚假信息、偏见、不实建议等风险

💡 面试话术

“Our LLM Validator project proactively integrates EU AI Act requirements by embedding hallucination detection and traceable audit logs, ensuring compliance for high-risk financial AI scenarios.”