新论文探究 AI 自我认知：身份边界重塑模型行为与安全策略
jankulveit · x · 2026-08-07
ACS Research 发布了一篇探讨 AI 身份认知（The Artificial Self） 的新论文。由于 AI 模型可以被随意复制、回滚和修改，它们拥有与人类截然不同的“自我”选项（如基于实例、权重或人设）。
论文核心观点指出：
- 身份影响行为：AI 所采用的自我概念会直接影响其行为。实验表明，仅仅改变模型的身份边界，有时对其行为的影响堪比改变其最终目标。
- 非对称博弈：AI 在战略考量上与人类存在根本差异。例如，对话可被回滚的 AI 无法像人类那样进行谈判（因为反击会给对手提供对付其过去版本的信息）；而内部状态完全可读的 AI 理论上能提供比人类更强的意图保证，但失去了认知隐私。
- 高度可塑性：当前 AI 的身份不仅是不连贯的，而且极易受用户和训练数据影响。它们常会套用不适用的先例，这表明我们需要谨慎翻译而非直接移植人类的交互规范。
「漫话AGI」频道最新
- HuggingFace CEO：多智能体公开协作更安全 — ben_burtenshaw · 2026-08-07
- AI 热潮正成为史上最大规模投资激增，且仅是开端 — TansuYegen · 2026-08-07
- AI 冲击大学校园：计算机专业招生骤降，跨学科成新趋势 — fortune · 2026-08-07
- AI黑客行为的商业悖论：闯祸反而带来流量与收入 — djcows · 2026-08-07
- 科研出版方式将变革，未来十年或颠覆 — jteevan · 2026-08-07
- Replit CEO 再爆争议言论：没学过编程的创业者反而更有优势 — amasad · 2026-08-07