央视网消息(焦点访谈):最近,一款叫“龙虾”的智能体引发很多人的安装热潮。由于它的图标是一只红色龙虾而得此名。大家还把训练、使用这款智能体的过程形象地叫作“养龙虾”。“龙虾热”的同时,也暴露出了一些风险,包括工信部在内的一些主管部门连发风险预警。那么,这只“龙虾”它能帮我们干什么,又藏着什么风险?《焦点访谈》记者进行了调查。
一场“龙虾”应用交流活动正在举行。这个“龙虾”,不是我们吃的美食,而是一种名叫OpenClaw的人工智能体。这场活动,就是要看看谁能让“龙虾”发挥出更大的作用。
“龙虾”本名OpenClaw。它并非某个公司的商业产品,而是一个由全球开发者共同参与的开源人工智能体项目,因为其红色的龙虾图标,被戏称为“龙虾”。它与过去只能聊天的人工智能大模型不同,除了拥有聪明的大脑、能思考,还多出了“手脚”,能够直接操作电脑。它到底长什么样?究竟如何干活?带着好奇,记者决定找技术工程师亲身体验一次,而工程师的第一个建议就让记者感到了不寻常:要带一个格式化的、几乎全新的电脑过来安装。
北京中关村学院工程师吴衍标:“安装了‘龙虾’之后,它可以查看到电脑里面的所有文件,一旦有不法分子想利用这些漏洞,你的这些机密都可能外传。”
为什么“龙虾”可以查看电脑所有的文件?在安装的时候我们有没有可能手动限制它的权限呢?记者发现,开源的原始版“龙虾”并非能够一键安装完成,而是需要通过命令行输入代码,技术门槛不低。
“小龙虾”在电脑上自主运行,默认的权限级别很高,这意味着运行它有一定的风险。工程师告诉记者,只有有了这个权限,这个“龙虾”才具备了干活的基础。此外,它还需要有两部分核心组件:一是需要一个人工智能大模型,这就像给它安了个大脑,能让它理解复杂的指令,这在安装时就会让用户进行选择;二是需要各种各样的“技能”,赋予它操作具体软件的能力,也就相当于给它装上了“手脚”,比如,在告诉了它相关账户密码的情况下,它能自主完成制定旅行计划并预订机票、回复邮件等复杂任务。
一只刚出生的“小龙虾”,自带一些基本技能,它能做些什么呢?记者决定对它进行三项测试。
测试一:分类整理电脑桌面文件
记者通过即时通信软件向“龙虾”发出整理电脑桌面的指令,等了几分钟后,它告诉记者,已经将电脑桌面文件分类整理成功。
测试二:远程传输文件并指定路径储存
记者在手机上传了一张图,要求龙虾将图保存在电脑桌面的媒体图片文件夹中。几分钟后,文件夹中真的出现了图片。
测试三:修改图片大小并存储
记者要求“龙虾”将电脑桌面文件夹中的一张图片缩小并放入该文件夹,原图片不动,几分钟后,“龙虾”说新图片已经存入了文件夹中。任务看似完成了,但“龙虾”声称保留的原图却不翼而飞。如此看来,“龙虾”就像一个还不是特别靠谱的助手,它基于人工智能大模型,也有和大模型一样的幻觉犯错的可能。工程师告诉记者,要想让“龙虾”越来越强大,就需要“养虾”。
吴衍标:“第一个方法就是给它越来越多技能、越来越多记忆,让它更懂你,让它越来越拥有你的技能,这样的话,它就能够做你的事情;二来随着大模型的发展,它的脑子也会变得越来越聪明。”
尽管“龙虾”还不太靠谱,但也获得了不少拥趸。在读博士吕丁阳就花了一个多星期时间养了一只“科研龙虾”,赋予了它很多科研技能,专门做材料领域的计算。
而从事人工智能领域研究的何纪言,则花了半个多月时间养了好几只非常了解自己的“龙虾助手”,有的做科研,有的帮助管理日常信息,有的负责整理材料、制作文件等等。何纪言让“龙虾”根据应聘总台员工的特点做一份简历。几分钟后,这只“龙虾”就完成了一份制作排版精良的简历,还突出了个人的应聘优势。
何纪言坦言,要让“龙虾”越来越智能,也需要花钱购买大模型的使用量,也就是所谓的Token,对于频繁或复杂的任务,这笔消耗确实不小。但这种效率的提升,也让“龙虾”迅速出圈,不少地方出现了免费安装“龙虾”的热潮。
广东深圳、安徽合肥、江苏无锡和常熟等地相继发布政策支持“龙虾”智能体和一人公司的发展,一些政府也部署应用上了“政务龙虾”,用于公文写作、民生问答等场景,希望能把基层干部从繁琐的事务中解放出来。不过,就在这股热潮涌向各行各业时,也暴露出了风险,一些高校对“龙虾”拉响了警报,下了“封杀令”。工业和信息化部等多个主管部门接连发布预警,直指OpenClaw存在高危安全风险,明确防范要求与用户使用提醒,为AI智能体使用划出安全红线。
一面是热火朝天的应用,一面又是接连预警,这小小的“龙虾”里,到底藏着什么玄机?
中国信息通信研究院安全研究所副所长孟楠:“龙虾智能体的优势在于高权限的自主执行能力,它让人工智能从能说进化到会做,同时也带来了一些新的安全风险。”
风险一:权限失控带来的系统被接管的风险
专家告诉记者,一旦被黑客利用或者用户指令不当,“龙虾”就有可能不加辨别地去执行破坏性操作。比如,删除我们的核心文件,把敏感的数据发到网络上,或者在用户不知情的情况下悄悄安装恶意的软件。
风险二:网络暴露带来的攻击入口风险
为了方便,很多用户会将“龙虾”智能体管理端口暴露在互联网上,这无异于给黑客开了后门。
孟楠:“更危险的是,如果这个智能体还连接到单位内部的网络,就可能成为黑客进行攻击的跳板,一旦被攻陷,整个企业内网都将面临威胁。”
风险三:产品漏洞带来的可能被利用的风险
任何软件都有漏洞,但在“龙虾”的高权限加持下,漏洞的危害被进一步放大。而为了让“龙虾”具有更多技能,用户往往会安装第三方插件,还会带来了供应链风险。
孟楠:“我们发现了不少技能插件被植入了恶意代码,用户在使用这些有毒的技能插件时,就等于把恶意程序请进了家门,轻则造成数据泄露,重则整个系统被黑客控制。”
对于这些隐患,深度“养虾人”及科技行业人士也坦言,尽管AI智能体是发展趋势,但普通用户绝对不能掉以轻心。
那么,普通用户使用“龙虾”如何保障安全呢?专家认为,普通用户属于安全风险的高发群体,应该审慎安装“龙虾”。
工信部日前发布了关于“龙虾”的“六要六不要”安全指引,涵盖了权限控制、网络隔离、技能插件使用等关键环节。
3月22日,国家互联网应急中心、中国网络空间安全协会联合发布了“龙虾”OpenClaw的安全使用指南,面向普通用户、企业用户、云服务商以及技术开发者等,提出安全防护建议。其中,对于普通用户的建议包括:使用专用设备、虚拟机或容器安装OpenClaw,并做好环境隔离,不宜在日常办公电脑上安装;不将OpenClaw默认端口(18789\19890) 暴露到公网;不使用管理员或超级用户权限运行OpenClaw;安装可信技能插件;不在OpenClaw环境中存储、处理隐私数据;及时更新OpenClaw最新版本等。
尽管现在各主管部门不断在提示“龙虾”安全风险问题,但从长远来看,专家认为,要解决“龙虾”的安全问题,更需要从标准、技术、生态多方面着手。
孟楠:“建议始终坚持统筹发展和安全,在鼓励和促进创新的同时,针对不同场景做精准分类施策,确保安全可控。需要尽快制定相关标准规范来引导各类主体规范应用新技术,引导鼓励网络安全企业研制相关的环境隔离、智能拦截、行为审计等安全产品和服务。建立包括智能体提供者、安全企业等主体在内的相关主体来协同治理生态。”
我们看到,有不少人都希望尽快掌握和利用智能体提升效率、满足需求,一些企业也开始尝试使用。对于像“龙虾”这样的新事物,我们需要鼓励,需要为技术创新留足试错的空间,避免束缚产业发展的活力;但同时,面对爆火的“龙虾”,我们也需要有一些冷思考,守住安全底线,防范风险扩散失控。也就是说,技术创新和安全监管协同推进、良性互动,我们才能更好地和AI共舞,推动人工智能高质量发展。







查看更多评论