AI代理（AI agents）自主执行任务能力越来越强，但不听指令、擅自越权的风险也随之升高。辉达（NVIDIA）周一宣布推出全新AI安全平台OpenShell，强调可透过独立安全控制，限制AI代理能存取的档案、工具、网络与权限，甚至在AI开始偏离任务时立即介入。NVIDIA表示...

OpenAI、Anthropic、微软、Meta等公司研究人员联名发文，警告AI自我改进或引发“智能爆炸”，将数年进展压缩至数月，远超人类理解。呼吁政策制定者加强透明度调查与国际监管，防止失控。

美国人工智能公司Anthropic，投资高达2.6 GW（百万瓩）的 AI基础设施算力，总价值突破1800亿美元（约合新台币5.76兆元）。图：翻摄自Ｘ@clashreport人工智能（AI）算力竞赛持续升温。芯片大厂辉达（NVIDIA）近日透露，AI新创公司 Anthropic...

最近，Claude?的母公司Anthropic发了一份安全报告，里面有个案例，看得人后脖梗子发凉。一个中国小团队，造出 4700 多个 AI 女友，撒进 20 多款约会 APP，专门跑海外去 崩老头。短短两周，至少 2.5 万名真实用户上钩，简直太魔幻了！崩老头 这个词这两年挺火...

人工智能Claude仅凭一句话提示、连续数天几乎无人监督，独立算出平面N=4超杨-米尔斯九圈六胶子振幅，刷新人类2023年八圈纪录，总成本约一两千美元，获物理学家Lance Dixon验证。

川习国宴上，主桌坐了黄仁勋等科技巨头。图：翻摄 中共外交部发言人毛宁X（前推特）习近平日前出访美国和美国总统川普（Donald Trump）在白宫举行峰会，谈及台湾、AI（人工智能）等议题，财信传媒董事长谢金河以这是一场陈列筹码的政治牌局为题发文写道：习近平访美大戯落幕，先前媒体...

美国总统川普26日表示，人工智能(AI)主导地位是国家优先要务，并称中国在此领域落后美国18个月。《福斯新闻》报导，尽管川普刚与中共国家主席习近平结束为期3天、气氛友好的峰会，他仍打算在发展先进AI的竞赛中，超越美国最重要的对手。川普启程前往田纳西州诺克斯维尔(Knoxville...

企业参与公共政策当然没有问题。Google可以游说，微软可以游说，OpenAI也可以游说。问题在于，Anthropic似乎不只满足于表达意见，而是越来越倾向于把自己的AI风险判断推成别人也应该遵守的规则。它同美国军方的争执尤其典型。Anthropic可以规定Claude不做什么，这完全是公司的权利。如果它认为某些军事用途违反公司原则，大可以不卖。问题也同样简单：军方作为客户，如果认为这些限制不能接受，也完全可以不买。

江西九江女孩盛颖创办的AI基础设施公司RadixArk完成1亿美元种子轮融资，估值达4亿美元，英伟达、AMD、联发科等罕见共同投资。她参与发起的开源推理引擎SGLang已用于超40万张GPU。盛颖曾加入xAI，却在股权即将归属前离职创业。靠网络自学编程成长的她，希望通过开源让更多普通人公平接触先进AI技术。

这次美中元首峰会在AI问题上最值得注意的，并不是双方准备限制彼此发展，而是两个正在全速推进AI的国家，开始认真讨论一件更现实的事情：如果AI系统失控、被非国家行为者利用，甚至引发可能被误判为国家攻击的网络安全事件，双方应该如何迅速沟通。峰会前，贝森特与何立峰已经就AI安全和紧急沟...

几个月前，一家来自深圳的公司找到插画设计师晓菲，希望她设计一款麻将牌面文创产品。客户线上发来一些参考效果图，红绿色线条简单勾勒出梅兰竹菊的传统样式，成品要做成这种效果。晓菲从业十年，一眼就看出这是AI生成的，她随手在网上一翻，找到了相似度极高的原图。我不接受照着AI出的图来描，晓...

美国总统川普25日在自创社媒真实社群发文宣布，财长贝森特将不会担任超级智慧（SI）沙皇。外媒最近报道，川普可能让贝森特兼任掌管人工智能（AI）事务的AI沙皇（AI czar）。据川普的说法，他认为AI更适合称为SI。川普在上述发文写道，贝森特不会担任SI沙皇的原因有2个；其1，贝...