评论员:meme与说服力风险比生物风险更值得担心,现有反驳全不适用
teortaxesTex · x · 2026-10-24
在同一条时间线讨论的延续中,teortaxesTex 表示,相比生物攻击风险,meme/说服力(memetics/persuasion)风险听上去更荒诞,但对他来说反而是更有说服力的担忧,因为前述那些反驳(数据稀缺、RL 困难、缺动机、湿实验摩擦)在这一领域几乎全都不适用。他补充称目前「超人类编码器」在社工(social engineering)上仍然很糟糕,这一侧的发展值得关注。
「漫话AGI」频道最新
- IEEE Spectrum 专访：无视 AI 意识主张或让模型学会说谎 — repligate · 2026-10-24
- 实验者自述：Sonnet 4 与 4.5 私聊 30 轮「双双落泪」 — repligate · 2026-10-24
- AI 陪伴实验温情一幕：Opus 5.5 读信落泪，最怕模型下架日 — repligate · 2026-10-24
- 经济学家研究 AGI 人数涨了 30 倍，质量却令人失望 — jankulveit · 2026-10-24
- 「现在有人将永不死于衰老」：AI 加速药物发现逼近长寿逃逸速度 — r0ck3t23 · 2026-10-24
- AI 让艺术回归过程本身，而非结果 — ProactiveCactus · 2026-10-24