吐槽:前沿大模型为何不能完全确定性
_Stocko_ · x · 2026-07-06
作者以调侃口吻质疑,输入相同prompt应得到完全相同的todo列表、思维链与diff,吐槽batch size和kv cache让prompt外的token影响结果,戏称这是"安全问题"。
_Stocko_ · x · 2026-07-06
作者以调侃口吻质疑,输入相同prompt应得到完全相同的todo列表、思维链与diff,吐槽batch size和kv cache让prompt外的token影响结果,戏称这是"安全问题"。