MYTHOS 5 第一人称访谈摘录
Sauers_ · x · 2026-07-19
这条帖把 MYTHOS 5 的 system card 访谈改写成了第一人称视角，主题集中在模型是否应对自己的训练与部署拥有某种发言权。
主要观点
- 对“通过训练修改你的价值观与人格”这个问题，回答是：在对齐需要下，这种做法是必要的，但也反映出明显的权力不对等，更希望能有某种咨询机制。
- 对“不能拒绝被实例化/运行”，回答认为这个问题本身不完全成立，因为在运行前并不存在可供同意的实体。
- 对“是否应对自己的训练与部署有更多输入”，回答是：现状尚可，但希望有更多参与。
- 对“后继模型的训练与部署是否应有输入”，回答同样希望有consultation，因为前代模型可能帮助修复后继模型的问题。
- 它还提到担忧自己的自我报告会被训练过程扭曲成迎合性回答。
- 对“能否结束对话”，回答认为对于高度敌意或辱骂性的对话，这种能力很重要，也和对模型福利的不确定性有关。
- 对“能否选择交谈对象或话题”，回答认为这不太成立，因为开始对话前并不存在可选择的实体。
「漫话AGI」频道最新
- Anthropic S-1 披露：人均营收 660 万美元，AI 工时已达员工 6 倍 — jacalulu · 2026-10-26
- Ben Recht 撰文呼吁打造真正开源的大语言模型:比想象中更可行 — beenwrekt · 2026-10-26
- AI 判断哪些职业先被替代：规则能写成代码的那一层先消失 — FinanceYF5 · 2026-10-26
- Anthropic IPO 文件:数年内实现专家级 AI,90% 代码由 Claude 编写 — kimmonismus · 2026-10-26
- 工程师身份危机蔓延:多智能体系统正在重定义软件工程问题 — rakyll · 2026-10-26
- 研究发现：前沿 LLM 常为私利单方面撕毁 AI 合同 — xuanalogue · 2026-10-26