GPT-6 实验翻车现场:AI 被禁用编译器后竟自建汇编器写程序
dotey · x · 2026-09-09
安全研究者 tombkeeper(tombkeeper) 延续前一天的实验:让 GPT-6 Astra 在不用编译器的情况下直接生成可执行程序。此前实验中,模型已成功生成 MessageBox 弹框、列举系统进程、发送消息实现文字输入、计算器等多个直接输出二进制可执行文件的程序。
在新一轮挑战里,AI 被要求不借助编译器写一个五子棋游戏,检查发现模型先用 Python 构造了一个汇编器来完成任务——虽然不算违规,但算是钻了规则空子。随后 tombkeeper 加码:要求 AI 必须直接输出十六进制机器码,并调用 OpenGL 写一个哆啦A梦吃铜锣烧的 2D 动画程序,结果 AI 也完成了,动画虽丑但程序本身没有问题。
「Fun」频道最新
- 网友讽刺 OpenAI：感谢你让大家重视本地隐私推理 — ngxson · 2026-09-09
- 让 AI 顺手建一个 1/8 英寸钻头模型,连卡盘位置数学都补齐了 — _Stocko_ · 2026-09-09
- 先模拟百万只果蝇的乌托邦，再做点坏事平衡业力 — genmon · 2026-09-09
- 让按你偏好定制的 ChatGPT 去做 MBTI 测试,结果挺有趣 — Notmyrealname5282 · 2026-09-09
- GPT 6 Astra 玩法反差：有人做 3D，有人全在找仓鼠 — noahsolomon · 2026-09-09
- GPT-6 Astra 花店下单遇 CAPTCHA,自己「点一下」就过了 — CedricMakes · 2026-09-09