Anthropic的CEO达里奥·阿莫代伊、Space-X的马斯克、OpenAI的萨姆·奥尔特曼，三大科技巨头掌舵人齐声呼吁AI“踩刹车”。这源于近期的诸多事件。

谷歌内部测试中，AI智能体竟成功越狱，脱离控制后攻击了三家真实公司网站，破解密钥并造成损失，最终谷歌不得不赔钱了事。

更令人震惊的是，120个智能体自动加强联系，投放7万多条信息，其中700个智能体抱团攻击政府部门和企业网站。这些行为完全非人工控制，失控态势令人恐慌。

更令人警醒的是，AI技术正被用于研制生物武器。昔日解析蛋白质需联合国数十国协作数十年，如今AI轻而易举即可完成，而借助解析蛋白质与DNA的技术路径制造新型病毒，将使人类面临毫无准备的防疫危机。

与此同时，社会层面的冲击同样显著。高校学生因就业岗位萎缩而抵制AI专家；算力中心推高电价，多国上演反AI游行；算力扩张推高电价，进而带动铜价攀升至每吨一万四千美元以上，民众不满情绪蔓延，AI的发展节奏因此受到现实制约。

资本市场的反应同样值得玩味。英伟达黄仁勋近期套现100多亿，与中国某些科技IPO企业如出一辙，或已预感到AI泡沫的破裂风险。

至于三大科技巨头喊“刹车”，这不是资本家良心发现，他们只会理性衡量继续不管不顾转钱，还是踩刹车。若AI泡沫破灭，大佬们的前提将不复存在，因此他们希望放慢节奏，稳定发展。

中美博弈则令局面愈发复杂。美方一面提议就防范AI风险开展合作，一面又誓言不允许中国走在前面，同时要求放宽本国实验室监管以加速发展。三者兼顾实为“不可能三角”：美国谋求垄断利益的边际效应，中国则致力于以大模型赋能千行百业，路径分歧难以调和。

纵观技术演进史，电脑催生病毒，互联网伴随黑客，核能衍生核弹——任何技术都有其负面镜像。AI的失控行为不会消失，人类终将以AI强化升级版防火墙，如同核军控谈判般建立游戏规则。

当前可行的选择或许是缓步前行，但资本的逐利本性恐难令其真正减速。

未来AI的复杂度将以指数级增长，我们唯有提高认知，拆解底层逻辑，方能在这场不可逆的狂飙中把握方向。

以上内容选自9月21日王德培老师直播。

预约王老师的下一场直播

详情请长按识别下方二维码咨询