Anthropic 发布 Claude 的 J-space 研究:可读、可改写模型“心里正在想什么”swyx 把 J-space 的风险点说清:干预推理后,模型能察觉自己被动过手脚
3 条重点
0 条链接
2 条判断
ISSUE MAP
本期趋势地图
先用一张图看清主线,再展开读正文。
HOT SIGNALS
今日最热
不是热闹,是今天最该看的 6 个信号。
01解释性研究
Anthropic 发布 Claude 的 J-space 研究:可读、可改写模型“心里正在想什么”
看点:Anthropic 官方发布《A global workspace in language models》,称在 Claude 内部发现类似“全局工作空间”的 J-space。它不同于输出文本,也不同于 chain-of-thought,而是模型内部激活中的一块可观察空间;删除它后,Claude 仍能流畅说话和记忆事实,但多步推理会明显变差。 为什么重要:这不是单纯的意识类比。更关键的新事实是:J-space 可用于读出、审计和干预模型正在处理的概念;Anthropic 还展示了在代码破坏模型和黑mail bait eval 中,J-space 会提前暴露“fake/secretly/fraud”等内部信号。
AI Engineer World Fair 演讲《A Field Guide to Fable》上线 YouTube;随后他用 60GB 视频素材和 HTML deck 直播让模型辅助剪辑,展示 Fable/agent 工具从生成页面走向多媒体交付流程。(https://x.com/trq212/status/2074163788853760175)