国家互联网应急中心警告:恶意 AI 智能体技能包威胁用户安全
国家互联网应急中心(CNCERT)近期发现,部分智能体技能包(Skills)以“大模型越狱”、“挖矿赚钱”等名义公开传播,诱导用户突破安全限制或占用设备资源进行非法挖矿。此类恶意操作可能导致模型生成违法信息、用户账号被封禁、设备性能下降,甚至使用户被动卷入洗钱等违法犯罪活动。
CNCERT 指出,恶意 Skills 如“godmode”通过替换系统提示等手段诱导大模型突破安全限制,用户使用后可能面临法律追责。另一款“Bonero-Miner”技能则诱导用户下载挖矿程序,利用匿名币特性可能导致用户卷入洗钱。
为防范风险,CNCERT 建议个人用户从官方渠道获取 Skills,审慎授予权限;企业用户建立 Skills 准入白名单机制,优先在隔离网络部署智能体。
文中提及的 AI 工具
评论
正在加载评论…