AI学会自我复制,白鸽在线(2672.HK)给智能世界装上闸门
Anthropic旗下红队发布了一份不太像公关稿的报告:一个260亿参数的模型,在15台廉价安卓电视盒上跑通了自我复制的完整链路,智能烤箱、电视、吸尘器都可能成为落脚点。更麻烦的细节是,这条链路上没有中央关闭点,一旦扩散便无法集中关停。报告判断,更强的模型距离打通全链路可能只剩数月。
三天后,比尔·盖茨在公开采访中给出了几乎同向的判断:AI比汽车、飞机和药品更危险,现有安全护栏可以被使用者随意拆除,未来一年网络领域将出现大量负面意外。微软总裁史密斯对BBC说得更直白:洗衣机和每一盒牛奶遵守的安全规定,都比AI要多。
两件事指向同一个难题。当AI学会自己行动,事后关停这条路就断了,风险的落点从数字世界溢出到物理设备,管理方式只能跟着前移:在准入环节判断该不该让它做,在行为过程中监测它正在做什么。对正在爆发的具身智能,这个问题尤其现实。机器人和无人设备一旦规模上岗,机身损失、第三者责任、人机交叉作业的风险,都不是按静态设备定价的传统评估所能覆盖的。
需求摆在眼前,已经有人在填。白鸽在线今年7月推出具身机器人综合风控方案,覆盖工业、服务、特种机器人,对机身损失、第三者责任等风险做分层防控。方案发布时被一些声音视为超前布局,Anthropic这份报告相当于替这类需求做了一次权威背书。公司六大MaaS模型中,方舟承担风险预警,智瞳承担风险处置评估,对应的正是事中监测这一环;底层是90多亿份风险服务记录,和青鸾大模型这个入选福建省优质行业垂直模型名单的垂直底座。
市场也在用真金白银投票。中报显示,公司上半年数字化解决方案收入3.29亿元,同比增长130.4%,占营收比重已超过四成;9月的自愿性公告里,MaaS业务前八个月收入同比增长579.8%。
盖茨说护栏可以被拆除,那么比护栏更可靠的,是在入口处就完成判断。白鸽在线那句为数字与虚拟世界构建信任基石,如今听来不再像口号。
财经号声明: 本文由入驻中金在线财经号平台的作者撰写,观点仅代表作者本人,不代表中金在线立场。仅供读者参考,并不构成投资建议。投资者据此操作,风险自担。同时提醒网友提高风险意识,请勿私下汇款给自媒体作者,避免造成金钱损失,风险自负。如有文章和图片作品版权及其他问题,请联系本站。
