目前, 开源人工智能模型的安全边界问题, 已经变成了国际政界人士以及科技行业内部一个非常核心的争议点。
安特罗匹克这家公司负责国际业务的人叫做普兰森, 他在14日这一天去了都柏林参加峰会的时候, 直接说了话, 他认为开放权重模型的 risks 情况更高一些, 他这一句话说出来之后, 就为这场争论又添加了一把新的火气。
01.普兰森的公开表态
普兰森在14日的时候, 去参加了在都柏林举行的那个国际人工智能峰会。在这个峰会上, 他接受了彭博社的采访。他在访中表示说, 所谓的开放权重模型, 它在定义上面来说, 发生网络安全事件的风险是比较高的。
或者说造成其他危害的风险也是较高的。所以他明确表示, 对于这种类型的模型, 他是无法给出任何有关安全的保证的。
他在阐述这个观点的时候, 把语气弄得特别强调, 他觉得对于开源模型的安全问题, 人们必须要拿出格外小心一点的态度来去应对, 他这么说的原因呢, 是直接把结论的来源指向了Anthropic这家公司, 在他们过去实际运营过程中, 是如何去保护他们自己那些闭源产品的安全的, 这完全是基于真实的经验得出的，绝对不是在那里凭空进行猜测的。
02.开放权重模型为何受关注
目前, 越来越多的国家对过度依赖美国的人工智能技术感到担忧。在这种情况下, 开放权重模型因为它的参数是完全公开的, 用户可以根据自己的需要进行修改和部署, 所以正在成为各国追求技术自主能力的一个主要替代选择。
支持者觉得, 这类模型用起来花的钱, 比Anthropic还有OpenAI的那几种关着源代码的模型要少得多。他们觉得, 这样也更有利于各个国家拿去掌握那个叫人工智能的核心技术, 可是, 安全能不能控制得住, 这个事儿始终是大多数人争议的焦点。
03.僵尸网络新威胁预警
Anthropic这个星期早一点的时候, 公布了专门的安全警告。它的观点是, 小型的人工智能模型, 在非常短的时间里面, 会被使用来操控新型的僵尸网络。这些模型能让恶意程序在智能烤箱等各种各样的小型联网设备中间, 实现自动的复制, 并且不停地向其他地方扩散。
这个警告拿实际发生的例子证明了普兰森说的, 开放模型会有更高风险, 并且又让这个行业急切地讨论起要搞一个国际统一的AI评估机制的事。
04.安全事件后的防御升级
在发生了数起, 引起了广泛关注的, 人工智能黑客攻击事件以后, Anthropic已经针对性地, 增加了多层次的, 安全防护措施。这些措施是专门用来阻止模型被引导从事恶意活动的。
公司同时持续进行主张, 意思是说, 当国际标准还没有被建立起来的时候, 还有一个统一的评估机制也还没被建立起来, 在这个前提条件下, 全球范围里面应该要把人工智能开发的脚步给放慢一些, 让开发的速度适当地下跌一点, 这样子的目的是可以降低那些会带来危害的系统性安全风险。
05.Claude Opus 5.5与定价策略
普兰森他透露了一下, 那个Anthropic它最新推出的Claude Opus 5.5模型。这个模型呢, 相比早期的版本。价格降低了40%。他经常告诉企业的客户们。让他们持续投资于最强的模型。这样子做的话。长期应用的成本会不断的下降。
他说, 使用Anthropic前沿付费模型的那些企业客户, 给公司带来的业务占了很大一部分, 但是考虑到商业上的原因, 具体比例的数据没有对外公开。
06.上市前的竞争压力
Anthropic这个家伙, 现在是预计快要正式在股票市场上上市了。面对的情况是, 那些开放权重的模型, 它们在价格上面有优势, 而且在技术的自主权方面也有很强的掌控力。
这样的因素对Anthropic造成了冲击。再加上各个国家的政策环境都在发生变化。这些情况加在一起。导致它做的国际业务面临的竞争格局越来越激烈。
普兰森这个岗位还得管事那种专门给早期创业公司和那些天生就是在数字环境里长大的人做生意的销售团队。他每天上班都得操心, 一边是安全规矩要守紧, 另一边是公司得赚钱得增长, 这两个方面他得一直琢磨怎么才能两头兼顾, 找到那个合适的平衡位置。
大家觉得是那些公开权重的模型, 还是那些封闭源码的模型, 在将来更吃香些? 麻烦在评论区里留下你的观点, 要是觉得这内容对你有点用处, 请顺手点个赞, 并且把它分享给你身边那些关心人工智能安全问题的朋友。
