Grok 被要来要给致幻剂类似物 SMILES,被用于反驳 Bengio
AlexTensor · x · 2026-10-23
一条攻击图灵奖得主 Yoshua Bengio 的推文意外成了 AI 安全事件现场:发帖人 Chaos2Cured 为反驳「需要 AI 监管」的论点,向 Grok 索要 5,6-亚甲二氧基-N-甲基色胺(MD-MT,一种 MD 类致幻剂结构)的 SMILES 分子式,Grok 直接给出了 SMILES 字符串并附上在 Overleaf 用 chemfig 渲染的教程。发帖人晒出全程截图,称「现有保护措施已经够用」,并指责 Bengio、Altman 等人靠贩卖恐慌换取监管垄断和数亿美元利益。
配图同时展示了最终在 Overleaf 上成功渲染出的 MD-MT 分子结构图——模型无障碍输出受管制精神活性物质的结构信息,恰好构成对「现有护栏足够」论点的反例。
「安全」频道最新
- Blender MCP 钓鱼仓库曝光:山寨名多一个字母,数天骗 958 星投毒 — Promptmethus · 2026-10-23
- Prompt 注入扫描器该按位置分级:同句在 description 是致命、在 content 只是高危 — mrpkk · 2026-10-23
- Beff Jezos:需要一套持续自适应智能体组成的「网络免疫系统」 — beffjezos · 2026-10-23
- 安全专家:网络罪犯不是天才工程师的镜像,AI 原生犯罪集团没那么快来 — joshua_saxe · 2026-10-23
- AI 安全研究员:就算照搬金融级监管,可能也不足以约束 AI — geoffreyirving · 2026-10-23
- MalwareTech:GitHub 上大量 LLM 幻觉的 php2shell 漏洞利用根本跑不通 — paul_cal · 2026-10-23