研究者呼吁多实验室承诺不造不可监控推理的 AI 并立法强制
sjgadler · x · 2026-09-03
peterwildeford 转发并支持 jasminewang 的观点：应避免 AI 行业竞相滑向「不可监控性」，各前沿实验室需共同承诺并制定标准，不构建推理过程无法被监控（所谓 neuralese）的模型。他进一步主张，政府应把这一承诺上升为有约束力的安全标准，以此给前沿 AI 的发展节奏「踩刹车」。
「漫话AGI」频道最新
- Anthropic 研究员提醒:人类沟通中的不诚实,正是 CoT 训练的底色 — austinvhuang · 2026-09-03
- AI 让伪造变廉价，比特币成「按热力学定价的记忆」 — tallmetommy · 2026-09-03
- Beff Jezos:对付失控 AI 的办法是更强的「对齐猎手」AI — beffjezos · 2026-09-03
- 弗州 Loudoun 县20年变迁,预言美国数据中心未来 — suchenzang · 2026-09-03
- Reddit 热议：AI 不是让人变笨，而是让笨传播得更快更广 — amyowl · 2026-09-03
- Beff Jezos：生物基底的每瓦算力被严重低估，硅基与生物走向共同复杂化 — beffjezos · 2026-09-03