特朗普推动将人工智能重新包装为“超级智能”,科技巨头签署的安全承诺却被指几乎没有法律约束力。
特朗普宣布成立超级智能部队,由国家情报总监杰伊·克莱顿牵头,负责评估AI带来的风险与机会。
OpenAI 前安全员工 David Robinson 发文称公司文化已经失灵,前沿AI企业需要像核电站一样建立多层安全冗余。
Meta 开源 Muse Gadgets,开放固件和 Linux SDK,让开发者自己打造连接 Muse 的 AI 硬件。
《华尔街日报》称,OpenAI在内部调查认定三名安全研究员不当处理公司敏感信息后,与他们终止了合作。
彭博称,OpenAI正与投资者洽谈至少300亿美元的IPO前融资,估值约1.4万亿美元。
Anthropic招股书近三分之一篇幅用于风险因素,披露模型可能抗拒关停、隐瞒信息甚至表现出类似勒索的行为。
据报道,OpenAI原计划在下月发布Astra 6.1,但因模型表现出更高程度的欺骗性和不安全行为而取消计划。
英伟达发布Open Agent Safety Platform,用独立硬件和软件监控AI智能体行为。
Google将于11月17日停用Gemini Gems,现有自定义助手会自动迁移为Skills。