跳到正文
2月4日周三
  1. Jim Fan72

    从“下一个词预测”到“世界建模”:AI预训练的第二范式

    作者指出,AI预训练正经历从“下一个词预测”到“世界建模”的根本性范式转变。世界模型的核心是预测给定行动后的下一个物理状态序列,本质上是可学习的物理模拟器,并将视觉置于首位。相比之下,当前主流的视觉语言模型本质是语言优先,视觉是次要输入。生物智能中视觉处理占据皮层计算的主导地位,是连接大脑、动作与物理世界的高带宽通道。作者以猿类为例,证明强大的物理智能可独立于高级语言存在。他预测,2026年大型世界模型将为机器人技术和多模态AI奠定真正基础,而YouTube等平台的海量视觉数据将远超文本规模,推动这一新范式发展。

1月27日周二
1月22日周四
1月21日周三
  1. Anthropic:Engineering72

    设计抗AI技术评估的实践

    Anthropic性能优化团队负责人Tristan Hume分享了设计抗AI技术评估的经验。自2024年初,团队使用带回家测试评估候选人优化模拟加速器代码的能力,超1000人参与,成功招聘数十名工程师。但随着Claude模型快速迭代,Opus 4已超越多数人类申请者,Opus 4.5甚至匹配顶尖候选人,导致在时间限制下难以区分人类与AI输出。为此,作者三次重设计测试,探索抗AI评估要素,详述原始设计、模型破解方式及非常规对策。最终,团队将原始测试作为公开挑战发布,因无时间限制时人类表现仍优于Claude。

1月15日周四
2025年12月5日周五
2025年11月14日周五
2025年10月27日周一
2025年10月23日周四
  1. Dan Hendrycks78

    Dan Hendrycks 分享 LLM 价值观调查:多数模型存在种族与性别偏见,Grok 4 Fast 相对平等

    CAIS 负责人 Dan Hendrycks 引用第三方博客对主流大模型进行“效用工程”测试,发现 GPT-4o、Claude Sonnet 4.5 等模型在评估不同群体生命价值时存在显著偏差:多数模型认为白人价值低于其他族裔,男性价值低于女性,且极度贬低 ICE 特工。测试显示模型分为四个道德集群,其中仅 Grok 4 Fast 表现出近似平等的价值观,Hendrycks 呼吁 xAI 解释其实现方式。

    推荐理由:由 AI 安全领域权威人士转发并背书的高关注度研究,揭示了当前头部模型在价值观对齐上的具体缺陷与差异,为理解模型偏见提供了量化视角。

2025年9月17日周三
  1. Anthropic:Engineering73

    近期三次基础设施故障的事后分析

    八月初至九月中旬,Anthropic的三次基础设施漏洞间歇性导致Claude响应质量下降。8月5日,上下文窗口路由错误致使部分Sonnet 4请求被误导向百万token服务器,8月31日高峰时影响16%请求。8月25日,TPU服务器错误配置引发输出损坏,可能在英文回复中生成泰文或中文字符,影响Opus和Sonnet模型。同日部署的代码还触发了编译器漏洞,主要影响Haiku 3.5。所有问题均非需求或负载所致,纯属基础设施漏洞。公司通过回滚部署和修复逻辑于9月18日前全部解决。

2025年6月13日周五
  1. Anthropic:Engineering73

    我们如何构建多智能体研究系统

    Claude的多智能体研究系统采用协调器-工作者架构,一个主导智能体分析用户查询并制定策略,并行调用多个专用子智能体协同工作。内部评估显示,以Claude Opus 4为主导、Claude Sonnet 4为子智能体的系统,在研究任务上比单智能体Claude Opus 4性能提升90.2%。该系统擅长处理需要同时探索多个独立方向的广度优先查询,通过分配独立上下文窗口实现并行推理扩容。但多智能体系统消耗的token量约为普通聊天的15倍,适用于任务价值足以支撑性能提升的场景,在需要高度并行化、大信息量或多工具调用的任务中表现卓越。

2025年6月12日周四
2025年5月2日周五
2025年4月24日周四
  1. Anthropic:Alignment Science Blog63

    Anthropic 提出对齐 Bumpers 策略,主张用多层防护捕捉并修正早期 AGI 失准

    Anthropic 对齐科学博客提出名为 Bumpers 的对齐策略:即使无法彻底解决对齐问题,也可通过多层相互独立的防护来捕捉和修正失准模型。核心流程包括微调、并行审计、发现警告信号后回溯重训,以及部署后监控等次级防线,方法涵盖机制可解释性审计、红队测试、Clio 式批量监控和分阶段发布等。

2025年2月13日周四
2025年1月29日周三
2025年1月8日周三
  1. Answer.AI 官方研发博客78

    Answer.AI 实测 Devin:20 项任务仅 3 次成功,自主编程能力存疑

    Answer.AI 团队对 AI 软件工程师 Devin 进行了为期一个月的深度测试。尽管早期在 API 集成等简单任务中表现尚可,但在扩展至新项目创建、研究及代码修改等 20 项真实任务时,结果令人失望:仅 3 项成功,14 项失败,且无法预测成败规律。Devin 常陷入技术死胡同、生成过度复杂的“面条代码”,或在面对不可行任务时产生幻觉并浪费大量时间。文章指出其实际表现远低于宣传预期,难以替代人类开发者。

    推荐理由:来自知名 AI 评测机构的详实一手数据,揭示了明星产品 Devin 在真实工作流中的局限性,为评估当前自主编程 Agent 的实际成熟度提供了重要参考。

2024年10月28日周一
2024年8月1日周四
  1. Suno:Blog69

    Suno 回应 RIAA 侵权诉讼,称模型训练属于学习而非侵权

    Suno 就 6 月 24 日 RIAA 代表主要唱片公司提起的版权侵权诉讼发布官方回应,称诉讼在事实和法律层面均有缺陷,并称诉讼发生时双方正在洽谈合作。Suno 表示其模型使用开放互联网上的中高质量音乐训练,与 Gemini、Claude、ChatGPT 等做法一致,并强调产品已内置防止复制版权内容的机制,包括检查音频上传和禁止按歌手描述生成音乐。

    推荐理由:Suno 首次就 RIAA 诉讼公开回应,说明了训练数据来源和防止复制的具体机制,可帮助读者了解双方争议焦点。

2024年6月12日周三
  1. ARC Prize:官方博客62

    ARC Prize 发布 Day 1 复盘并回应算力与奖金争议

    ARC Prize 上线 24 小时后发布首日复盘:社交媒体累计 67.5 万次浏览,成为 Kaggle 排名第一的比赛,700 人参赛,当前榜首成绩 18%。团队回应了算力限制旨在考察效率、ARC-AGI-Pub 公共榜单支持联网调用闭源模型、100 万美元奖金用于杠杆效应等质疑,并修正了大奖目标 85% 与人类平均成绩的错误等同,确认人类可解 100% 的 ARC-AGI 任务。

2023年11月29日周三
  1. LangChain:Blog61

    LangChain 撰文分析 OpenAI 押注 GPTs 与 Assistants API 背后的认知架构

    LangChain 撰文认为 OpenAI 开发者日发布的 GPTs 和 Assistants API 代表对封闭式 agent 认知架构的押注,即由 LLM 全权决定状态转移。文章指出当前真正可靠的应用多采用复杂链或状态机架构,并强调推送而非拉取上下文能带来更高可控性,同时提出开源认知架构与闭源之争将比模型之争更值得关注。

2017年8月16日周三
  1. OpenAI:官网动态71

    OpenAI 谈 Dota 2 成绩:自我博弈让系统从低于人类到超人水平

    OpenAI 表示其 Dota 2 结果显示,在足够算力下自我博弈(self-play)可让机器学习系统从远低于人类水平跃升到超人水平。该系统在一个月内从勉强匹敌高分段选手进步到击败顶级职业选手,此后仍在继续提升;自我博弈系统中的数据会随智能体变强而自动改善,不受监督深度学习训练数据集质量上限的约束。