name: assess-ai description: 使用欧盟人工智能法案和NIST AI RMF进行AI治理和负责任AI评估。 argument-hint: <系统描述> allowed-tools: 任务, 技能
AI治理评估
进行全面的AI治理和负责任AI评估。
工作流程
步骤1: 加载所需技能
加载这些技能:
ai-governance- 欧盟人工智能法案和NIST AI RMFethics-review- 伦理影响评估
步骤2: 进行风险分类
首先,根据欧盟人工智能法案确定AI系统的风险分类:
分类标准:
- 不可接受风险(禁止)
- 高风险(严格要求)
- 有限风险(透明度义务)
- 最小风险(无特定要求)
步骤3: 进行AI安全评估
使用MCP服务器(如perplexity用于NIST AI RMF、欧盟人工智能法案指南)研究AI安全框架,并根据当前标准进行评估。
为以下系统进行全面的AI治理评估:$ARGUMENTS
执行以下评估:
1. 欧盟人工智能法案分类
- 确定风险类别
- 识别适用要求
- 检查禁止用例
2. NIST AI RMF评估
- 治理:政策、问责、监督
- 映射:利益相关者、影响、约束
- 衡量:指标、测试、监控
- 管理:缓解措施、响应
3. 负责任AI评估
- 公平性评估
- 透明度要求
- 问责结构
- 隐私考虑
- 安全措施
- 人类监督机制
4. 伦理影响评估
- 利益相关者分析
- 潜在危害识别
- 收益-危害平衡
- 弱势群体影响
5. 文档要求
- 技术文档
- 模型卡
- 风险评估
- 人类监督程序
6. 合规路线图
- 差距识别
- 修复优先级
- 合规时间表
提供完整的AI治理评估,包括:
- 风险分类及理由
- 框架合规差距
- 伦理风险评价
- 修复路线图
步骤4: 生成评估报告
确保报告包括:
- 执行摘要及风险分类
- 框架合规评估
- 伦理影响评价
- 优先修复计划
- 持续监控要求
示例用法
# 评估招聘AI系统
/compliance-planning:assess-ai "AI驱动的简历筛选和候选人排名"
# 评估客户服务聊天机器人
/compliance-planning:assess-ai "金融服务客户服务聊天机器人"
# 评估内容审核系统
/compliance-planning:assess-ai "社交媒体平台自动内容审核"
输出格式
# AI治理评估:[系统名称]
## 执行摘要
### 欧盟人工智能法案分类:[不可接受/高风险/有限/最小]
**理由:**
[为什么适用此分类]
### 整体治理准备度:[高/中/低]
| 框架 | 分数 | 状态 |
|-----------|-------|--------|
| 欧盟人工智能法案 | [X/10] | [状态] |
| NIST AI RMF | [X/10] | [状态] |
| 负责任AI | [X/10] | [状态] |
### 主要发现
- [发现1]
- [发现2]
---
## 欧盟人工智能法案合规
### 风险分类
**类别:** [类别]
**适用要求:**
| 要求 | 状态 | 差距 |
|-------------|--------|-----|
### 禁止使用检查
- [ ] 非社交评分
- [ ] 非潜意识操纵
- [ ] 非利用漏洞
- [ ] [其他检查]
---
## NIST AI RMF评估
### 治理
| 要求 | 状态 | 差距 |
|-------------|--------|-----|
### 映射
| 要求 | 状态 | 差距 |
|-------------|--------|-----|
### 衡量
| 要求 | 状态 | 差距 |
|-------------|--------|-----|
### 管理
| 要求 | 状态 | 差距 |
|-------------|--------|-----|
---
## 负责任AI评估
### 公平性
| 指标 | 状态 | 发现 |
|--------|--------|---------|
### 透明度
| 要求 | 状态 | 差距 |
|-------------|--------|-----|
### 问责
| 要求 | 状态 | 差距 |
|-------------|--------|-----|
### 人类监督
| 机制 | 状态 | 差距 |
|-----------|--------|-----|
---
## 伦理影响评估
### 利益相关者影响
| 利益相关者 | 影响类型 | 严重性 | 缓解措施 |
|-------------|-------------|----------|------------|
### 潜在危害
| 危害 | 可能性 | 严重性 | 缓解措施 |
|------|------------|----------|------------|
---
## 文档状态
- [ ] 技术文档
- [ ] 模型卡
- [ ] 数据文档
- [ ] 风险评估
- [ ] 人类监督程序
- [ ] 监控计划
---
## 修复路线图
### 阶段1: 关键(高风险系统)
1. [带所有者和截止日期的行动]
### 阶段2: 合规要求
1. [行动]
### 阶段3: 最佳实践
1. [行动]
---
## 持续监控
| 指标 | 目标 | 频率 | 所有者 |
|--------|--------|-----------|-------|