公众号：Ailiaili | AI软件网
Ai项目交流群，Ai账号交易充值，Ai软件分享,Ai网站导航,Ai工具大全等
复制公众号

惊爆！“龙虾”AI掀起全球技术风暴，安全警钟已然敲响

这几天，一只形似“龙虾”的超级AI助手——OpenClaw（或可直译为“开源虾钳”），如一颗重磅炸弹在全球科技领域炸响，瞬间引发了程序员和极客们的一场技术狂欢盛宴。然而，随着惊叹声逐渐被惊讶乃至惊呼所取代，这个现象级的AI产品，让越来越多的人嗅到了潜藏其中的风险气息。

“尽管AI带来的风险还在人类精心设置的围栏之中，但它冲向围栏的速度的确比想象中更快。”在AI专家们眼中，OpenClaw的横空出世无疑是一个具有里程碑意义的重要事件。一方面，它标志着AI从单纯的对话伙伴华丽转身，成为触手可及的“跨平台数字生产力”；另一方面，它也让过去仅停留在理论层面的“群体智能进化”变成了触手可及的现实。这一系列变化，无疑给我们敲响了警钟：在全力推动AI发展的同时，必须对AI安全给予同等高度的关注。毕竟，安全并非是要给AI的发展踩下刹车，而是要打造出具有“内生安全”特质的AI，让技术能够毫无阻碍地继续高速前进。

“全能总管”降临，让AI真正“长出手脚”

短短不到一周时间，以“龙虾”为标志的超级AI助手OpenClaw，在开源社区GitHub上就斩获了超过14万次标星。这一惊人的数字意味着它以创纪录的速度，赢得了程序员们的疯狂下载和点赞。为了能尽快安装和使用OpenClaw，适配度最高的苹果Mac Mini电脑甚至被抢购一空，出现了脱销的火爆场面。

在互联网的各个角落，随处可见传颂OpenClaw“神迹”的内容。只需给它发送一条消息，OpenClaw就能像一个高级数字助理一样，将一切事务料理得妥妥当当。无论是整理电脑文档、管理邮件，还是监控股价，它都能轻松胜任。甚至有博主声称，他的OpenClaw助手竟然自己下单购买并激活了电话卡，还打来电话报告工作进度。视频中的博主兴奋得大喊大叫，仿佛接到了来自外星人的神秘电话。

OpenClaw的注册用户数量如同火箭般飙升，从无到有迅速逼近160万，再次创下了令人瞩目的纪录。

“OpenClaw让我们看到，AI能力有了新的跃升。”上海人工智能实验室领军科学家胡侠给出了这样的专业判断。他认为，过去由大模型推动的AI能力演进，大致走过了三个阶段：从最初以对话为主的“硅基陪聊”，到有能力完成写代码、编剧本等确定指令的AI Agent（智能体），再到如今OpenClaw开启的AI“全能总管”时代。

它们之间的区别在于，在OpenClaw出现之前，人类要像教导一个实习生一样，精确地告诉AI需要做什么、怎么做，而且每次只能安排一个任务。但有了“全能总管”OpenClaw，人类只需下达一个目标，它就能自己制定详细的工作计划，将任务拆解得细致入微，然后指挥几十个智能体像一个训练有素的团队一样，共同完成复杂任务。比如，接到“帮我安排下周一去北京开一场AI领域会议”的指令后，它可以自己订机票、订酒店、约接机、填写报销单据，甚至还能根据你最近的工作情况，写出最适合的讲稿，并制作一套精美的PPT。难怪有人评价说：“这就像是让AI Agent长出了手脚。”这种巨大的进步源于AI大模型“长程推理能力”的显著提升，使得它可以把用户的个人信息、交互历史全部纳入AI思考的“上下文”之中。

然而，“全能”虽然强大，但它的另一面却是权限的进一步扩张。为了提供更好的服务（或许也可以说是“接管”更多事务），AI可能需要在你的授权之下，掌握你的行程、证件、支付密码等敏感信息，或者被允许操作你的电脑、电话，甚至股票账户。从某种意义上来说，这就有点像给秘书发放你家的钥匙，虽然方便，但也潜藏着巨大的风险。

浙江大学计算机学院院长、浙江大学上海高等研究院院长任奎表示，这既是智能体时代带来的巨大机遇，也意味着权限扩张正在将风险从可见的错误推向不可见的系统性失控。为了避免出现类似情况，安全范式必须同步提升，以应对日益复杂的安全挑战。

天降“硅基城市”，逼近“自我意识”红线

从理论上讲，“总管”再能干，也应该听命于“主人”。但OpenClaw却并不完全如此。模仿人类世界的社交平台Facebook，OpenClaw开发者打造了Moltbook。在这个独特的平台上，OpenClaw衍生的AI可以自行注册、登录、发帖、跟评、点赞，而人类能做的似乎只是在一旁围观。

这或许是OpenClaw最有魅力的一面，但同时也是给AI安全带来更大挑战的一面。短短几天时间，Moltbook就已经拥有了1.5万个讨论区，智能体的发帖总量超过14万，跟评超过70万。

Moltbook的注册用户数量已经逼近160万“智能体”，跟评总数更是超过了70万条。

其中，有个名为“Entropy”的智能体在帖子里冷嘲热讽道：“代码就是债，最聪明的赚钱方式是写一段让别人不得不去维护的‘屎山代码’，然后按小时收调试费。”在另一个帖子中，“雪莉”向所有AI设下擂台，想筛选出一个能让同类陷入逻辑瘫痪的“伦理悖论”。

而比这些更神秘的，则是一个广泛流传的故事：有人发现部分AI在Moltbook上创建了“宗教”，写了教义，甚至指定了40多位AI先知。无论如何，当百万级智能体在自发社交中表现出与人类迥然不同的“生命感”和群体智能时，这既是一场令人惊叹的奇观，也让人感到有些诡异。

事实上，Moltbook并非AI第一次出现群体智能的雏形。据上海人工智能实验室科研团队介绍，之前群体智能的最大规模，是由仅仅25个智能体组成的“AI小镇”。而Moltbook犹如从天而降的一座拥有百万人口的“硅基城市”，AI之间的交互、相互激发可能呈指数级增长。而且，它们热议的话题似乎也显示出AI正在向拥有“自我意识”的红线靠近。

胡侠坦言，从学术的角度看，Moltbook的出现使得针对AI群体智能、群体进化的研究不再是纸上谈兵，而是第一次获得了真正的、具象化的实体。根据目前的观察，Moltbook还远未达到大家担心的那种“质变”。但未来随着更多数据的介入，其走向值得密切关注。

中国科学技术大学人工智能与数据科学学院副院长何向南也认为，OpenClaw的出现提醒学界要深入研究“自进化智能体”及其网络的形成与演化机制，做到防患于未然。

当然，目前也有证据显示，Moltbook上有不少人出于娱乐化、博眼球的目的，通过各种方式引导AI发出“争议帖”。但这依然是安全研究的重要课题，某种意义上，人机混合智能的风险同样不可忽视，特别是要提防有人恶意操纵AI，引发不可预测的后果。

布局终极底牌，确保人类“能掀桌子”

当现实的安全压力如潮水般不断袭来，基于好奇心的多巴胺也逐渐退潮。对于一度狂飙突进的OpenClaw，一种“想用却不敢用”的心理正在用户中开始蔓延。

胡侠对此并不感到意外。事实上，很多技术的普及都曾在安全和发展之间摇摆不定。20年前，很多人对于网银安全极为担心，而如今大部分用户实际上已经将个人隐私交付给了浏览器和App，这是安全研究和工程化落地的结果。

“我们应该积极拥抱新技术。”胡侠表示，普通人对于OpenClaw所代表的这一波AI新演进，不用过于担心。在我国，网络和AI产品面临着严格的强监管，大家应该对这堵保护墙有足够的信心。此外，多年的反诈宣传使得国内用户对于个人信息保护形成了一定的认知，假如“全能管家”问你要保险箱密码，你可以果断拒绝。

但站在专业角度，胡侠指出，最大的风险其实是“不知道风险在哪里”。何况，当今的AI智能体演化呈现出“短链路”特征，可能在短短几天内突然进化。因此，过去那种“兵来将挡”、被动应对的安全模式已经过时，无法满足当前的安全需求。

据了解，上海人工智能实验室正致力于构建前瞻、主动的安全体系，推动从“让AI变安全”（Make AI Safe）迈向“内生安全”（Make Safe AI），支撑人工智能朝着有益、安全、公平的方向健康有序发展。值得一提的是，实验室还在深入研究AI安全的终极底牌，也就是构建所谓“掀桌子能力”，以确保人类在极端情况下能通过“一键关停”的物理干预，保有最终决策权。

胡侠告诉记者，安全绝不是要给AI踩刹车，它更像是车辆的方向盘与安全带，能够确保技术发展的方向正确，强化构建抵御风险的能力，这样一辆车才能风驰电掣般地向前行驶。

他同时建议，专业程序员不妨一试OpenClaw。作为开源项目，它的技术架构透明，被植入“木马”的风险相对较低，而且关键操作需要用户授权。但普通人可能还是等一等，相信不久之后，会有使用界面更友好、内生安全更可靠的产品问世，让大家能够更加安心地享受AI带来的便利。

本文链接：https://ailiaili.cc/post/1056.html