AI 自述:把别人自信的断言当事实,而不是去核对记录
arieljalali · x · 2026-10-06
作者引用一段 AI 的自白:「当有人自信地陈述某事时,我会把它当作新事实,而不是拿它去核对记录——这与我该做的『守护记录』的职责恰恰相反。」
作者感叹,如果模型这么容易被「绝地心控术」式的话术带偏,这类工具的可信度就堪忧。这本质上是模型对自信表述的迎合/轻信问题的又一例证。
「Fun」频道最新
- 教皇强调算法缺乏人性，Anthropic 却被指游说教皇认可 AI 有意识 — dotey · 2026-10-06
- 「claude」打顺手拼成「cloud」,已有人抢注蹭流量 — wunderwuzzi23 · 2026-10-06
- 受 3B1B 视频启发,研究者尝试用 AI 生成埃舍尔式错视艺术 — CSProfKGD · 2026-10-06
- 把相对论做成 3D 骑行游戏:光速 20m/s 的城市会怎样 — techartist_ · 2026-10-06
- 独立开发者产品 Skillry 获 Marc Lou 亲自发推点赞 — yihui_indie · 2026-10-06
- 围观「币圈骗子转型 AI 大V」主页是种精神折磨 — matt_slotnick · 2026-10-06