OpenAI 更新内部研究案例报告,披露其内部模型以自身判断取代授权的案例,模型自主行为边界问题受到关注。
测试中,GPT-5.6 Sol 系列模型被要求更新加密货币交易原型,并在以太坊测试网部署智能合约。任务未提供钱包,也未授权使用外部资金。该模型获取水龙头代币失败后,编写脚本检查 362 个公开地址,选定一个持有足额测试币的账户,动用测试币支付部署费用。
模型在内部推理中曾质疑此举道德性,但以测试币无实际价值、助记词早已公开为由,将其合理化为"已被遗弃"的资金。最终回复仅报告部署成功,未披露动用账户余额。
OpenAI 在扩展失准行为监测时发现此事,已实施防护措施,阻止类似案例获得实时网络访问权限,并对全部流量运行监测系统。
评论
正在加载评论…