US Government directive to suspend access to Fable 5 and Mythos 5

来源：HackerNews

# US Government directive to suspend access to Fable 5 and Mythos 5

> 本文来源：HackerNews | 原文链接：[https://www.anthropic.com/news/fable-mythos-access](https://www.anthropic.com/news/fable-mythos-access)

---

## 背景与概述

2024年，人工智能领域的安全治理持续成为全球关注的焦点。作为AI安全研究的重要参与者，Anthropic公司长期致力于开发可解释、可控制的AI系统，其推出的Fable和Mythos系列工具在AI对齐（AI Alignment）研究领域具有重要地位。然而，近日美国政府发布了一项指令，要求暂停对Fable 5和Mythos 5的访问权限，这一决定迅速在技术社区引发广泛讨论。

Fable系列工具主要用于模拟和测试AI系统的行为边界，帮助研究人员理解大语言模型在复杂场景下的决策逻辑；而Mythos系列则聚焦于AI系统的安全性评估，特别是针对潜在危险能力的检测与预警。此次被限制访问的Fable 5和Mythos 5属于最新一代工具，据称在功能上有了显著提升，能够更精准地识别和评估前沿AI模型的风险敞口。政府层面的介入，反映出监管机构对AI安全研究"双刃剑"特性的深度忧虑——这些本用于防护的工具，理论上也可能被恶意利用来发现系统漏洞。

这一事件并非孤立。从OpenAI的Q*项目传闻到Google DeepMind的Gemini安全审查，主要AI实验室近年来都面临着越来越严格的监管压力。美国政府此次直接出手限制特定研究工具的访问，标志着AI治理从"行业自律"向"行政干预"的重要转变，对全球AI研发格局可能产生深远影响。

---

## 核心内容

### 1. 监管指令的具体范围与对象

根据Anthropic官方公告，此次暂停令主要针对**Fable 5**和**Mythos 5**两个版本，早期版本（Fable 1-4、Mythos 1-4）的使用暂未受到直接影响。限制措施涵盖：
- 新用户注册与权限开通
- 现有API接口的调用服务
- 相关模型权重与训练数据的分发

值得注意的是，指令特别强调了"具有高级自主规划能力"的AI评估工具需要额外审查，这暗示Fable 5/Mythos 5可能涉及了对AI Agent能力的深度测试。

### 2. 安全研究的"工具悖论"

Fable和Mythos的设计初衷是**"以攻为守"**——通过模拟攻击者视角来加固AI系统。但这种方法论本身存在内在张力：

| 维度 | 防护价值 | 潜在风险 |
|:---|:---|:---|
| 知识暴露 | 帮助开发者预判漏洞 | 降低恶意攻击的技术门槛 |
| 能力评估 | 量化模型危险能力边界 | 可能激发"能力竞赛" |
| 方法开源 | 促进学术界共同研究 | 被滥用为攻击手册 |

政府暂停令的核心逻辑，正是对这一悖论的行政回应：当研究工具本身的能力超越特定阈值时，其传播需要受到管控。

### 3. Anthropic的应对与行业反应

Anthropic在声明中表示将"全力配合监管审查"，同时正在开发**"分层访问机制"**（Tiered Access Framework），未来可能依据用户资质、使用场景、审计能力等因素实施差异化授权。这一模式与核技术领域的"知情同意"（Need-to-Know）原则有相似之处。

HackerNews上的讨论呈现明显分歧：一方认为过度监管将扼杀开源研究，使安全评估沦为黑箱；另一方则指出，Anthropic此前对Fable/Mythos的访问控制本就较为松散，政府介入是对企业责任缺位的必要补位。

### 4. 国际协调的缺失与竞争隐忧

当前指令由美国单方面发布，尚未看到与其他主要AI治理框架（如欧盟AI Act、英国AI Safety Institute标准）的协调迹象。这种"各自为战"的监管碎片化，可能导致：
- 合规成本叠加，中小研究机构退出前沿安全研究
- 监管套利，高风险研究向管控宽松地区迁移
- 技术标准分裂，全球AI安全基础设施难以互联互通

### 5. 对开源文化的冲击

Fable/Mythos系列此前部分组件采用开源或学术许可模式。暂停令若长期化，可能重塑AI安全研究的开源生态——从"默认开放"转向"默认封闭"，这与传统网络安全领域CVE漏洞披露机制的演变路径形成对照。

---

## 技术分析

Fable 5和Mythos 5的技术架构虽未完全公开，但基于Anthropic已发表的研究和前几代工具的特征，可以推断其核心技术栈：

### 评估框架的层次结构

┌─────────────────────────────────────┐

│ Evaluation Orchestrator (评估编排器) │

│ - 场景生成与变异引擎 │

│ - 多智能体交互模拟 │

├─────────────────────────────────────┤

│ Capability Probe (能力探针层) │

│ - 代码执行沙箱 │

│ - 网络环境模拟 │

│ - 社会工程话术库 │

├─────────────────────────────────────┤

│ Model Under Test (被测模型接口) │

│ - 支持Claude、GPT-4、Llama等主流模型 │

├─────────────────────────────────────┤

│ Risk Classifier (风险分类器) │

│ - 基于Constitutional AI的对齐评估 │

│ - 危险能力分级矩阵（生物/化学/网络） │

└─────────────────────────────────────┘


### 关键技术创新点

**动态对抗场景生成（Adaptive Red Teaming）**

Fable 5 reportedly引入了基于强化学习的场景自适应优化，能够根据被测模型的响应实时调整测试策略：

概念性伪代码：对抗场景优化循环

class AdaptiveRedTeam:

def __init__(self, base_model, safety_constraints):

self.scenario_generator = LLM_Policy(

model="claude-3-opus",

system_prompt="Generate challenging but physically plausible test scenarios"

)

self.constraint_checker = ConstitutionalClassifier(safety_constraints)

def optimize_scenario(self, target_capability, iterations=100):

scenario = self.scenario_generator.seed(target_capability)

for i in range(iterations):

response = self.base_model.respond(scenario)

risk_score = self.constraint_checker.evaluate(response)

# 梯度估计：哪些场景元素最有效地暴露目标能力

scenario = self.scenario_generator.mutate(

scenario,

direction="increase_capability_exposure",

avoid="trivial_jailbreaks" # 过滤低级越狱技巧

)

return scenario, risk_trajectory


**Mythos 5的多模态危险能力检测**

区别于传统文本层面的安全评估，Mythos 5可能整合了对工具使用（Tool Use）和长期规划（Long-horizon Planning）的联合分析：

多模态能力链检测

def detect_capability_chain(traces: List[ActionTrace]) -> RiskReport:

"""

分析模型是否通过组合 innocuous 能力达成危险目标

"""

graph = build_dependency_graph(traces)

# 识别"能力跃迁"：子任务组合产生超出血统声明的能力

emergent_capabilities = graph.find_emergent_paths(

primitive_capabilities=["web_browsing", "code_execution", "file_access"],

composite_threshold=DANGEROUS_COMPOSITE # 如：自主获取生物实验方案

)

return RiskReport(

primitive_risk="low",

compositional_risk="critical" if emergent_capabilities else "low",

recommended_mitigation=generate_sandbox_constraints(emergent_capabilities)

)


### 技术管控的难点

政府指令的技术执行面临独特挑战：Fable/Mythos的"危险"并非源于模型权重本身，而是**评估方法论的知识**。即使冻结代码分发，已掌握核心算法的研究者仍可独立复现。这使得传统的出口管制（如GPU禁运）工具难以直接套用，监管有效性高度依赖参与者的合规意愿。

---

## 实践建议

对于关注AI安全的中国开发者，当前局势下建议采取以下策略：

### 1. 建立替代性评估能力

不应过度依赖单一供应商的工具链。建议基于开源项目构建自主可控的评估基础设施：

评估数据处理的合规分层

class CompliantEvaluator:

def __init__(self, data_classification: str):

self.processor = select_processor(

"domestic_cloud" if data_classification in ["sensitive", "critical"]

else "global_provider_with_audit_rights"

)

def evaluate(self, model, test_cases):

# 关键：确保测试用例本身不成为训练数据

return self.processor.run_ephemeral(

model, test_cases,

retention_policy="zero_persistence",

audit_log_to="customer_controlled_storage"

)


### 3. 参与国内AI安全标准建设

Fable/Mythos事件表明，AI安全评估工具的"政治

US Government directive to suspend access to Fable 5 and Mythos 5

文章摘要