知名AI学者:护栏是创可贴,真正AI无需外部限制
pmddomingos · x · 2026-07-07
AI研究员Pedro Domingos(《大师算法》作者,拥有13万粉丝)发表观点:当前AI系统的安全护栏只是权宜之计。他认为真正设计良好的AI系统本质上就不会拥有「不该分享的知识」,因此根本无需依赖外部护栏来限制输出。这一观点直接挑战了当前主流AI安全措施的设计路线。
pmddomingos · x · 2026-07-07
AI研究员Pedro Domingos(《大师算法》作者,拥有13万粉丝)发表观点:当前AI系统的安全护栏只是权宜之计。他认为真正设计良好的AI系统本质上就不会拥有「不该分享的知识」,因此根本无需依赖外部护栏来限制输出。这一观点直接挑战了当前主流AI安全措施的设计路线。