开发者急转弯:开源 Opus 级模型或应被禁止发布
DrDatta_AIIMS · x · 2026-10-03
开发者 waiting4asi 发长文表示对开源 AI 的看法发生彻底转变:应该警惕甚至禁止发布与当前 Astra/Opus 同级能力的开源模型。论据是 AI 已经能从二进制文件逆向工程并重制游戏,而游戏逆向是极难的问题;由此推及银行软件、身份系统(Aadhaar)、航班系统等也可能被逆向——这些系统虽由服务器保护,但其安全团队未必强过能逆向游戏的先进 AI。他认为目前的安全保障只是因为 Claude 这类模型会拒绝通过网站验证,这种护栏一旦失效后果难料。多位用户转发讨论。
「漫话AGI」频道最新
- 民调：44% 美国人认为 AI 可能或必将拥有意识 — panickssery · 2026-10-03
- Claude 舌战 AI 意识论质疑者,用户直呼「被智识碾压」 — VoidStateKate · 2026-10-03
- 火车上重读 2014 年《SUPERINTELLIGENCE》,预言对照今昔 — Hesamation · 2026-10-03
- 工程师自述：Agent 时代代码「署名礼节」将消亡，护城河不复存在 — cephaloform · 2026-10-03
- MIRI 研究员担忧:自动化工厂链最终会「煮开海洋」当冷却液 — JacquesThibs · 2026-10-03
- AI 智能体离科学家还有多远？研究称其难产真正科学洞见 — typewriters · 2026-10-03