编辑：定慧 犀牛 【新智元导读】AI的运作始终笼罩着一层神秘的「黑箱」迷雾。这种不透明让AI有时会「胡说八道」，甚至故意撒谎。Anthropic刚刚推出了一项突破性研究，用类似大脑扫描的技术，深入Claude 3.5 ...

为了进一步理解Claude的内部运作，Anthropic还开发了名为跨层转码器（CLT）的新模型。CLT通过可解释的特征集而非单个神经元权重进行工作，使得研究人员可以更直观地辨识模型内部的电路，并追踪推理过程。这不仅有助于解构复杂模型的工作原理，也为 ...

当地时间 3 月 27 日，Anthropic 在一篇技术论文中介绍了一种名为“通路追踪”的技术，该技术让人们能够逐步追踪大语言模型内部的决策过程。（来源：Anthropic）研究中，Anthropic 采用通路追踪技术，来观察其大语言模型 ...

在人工智能领域，AI的运作机制一直笼罩着一层神秘的迷雾。这种不透明性让AI有时会「胡说八道」，甚至故意撒谎。然而，最近Anthropic公司的一项突破性研究，通过类似大脑扫描的技术，深入探究了Claude 3.5 Haiku的内部运作，揭示了其运行的一些秘密。

他们从神经科学领域汲取灵感，并试图构建一种 AI「显微镜」，让我们能够识别 AI 的活动模式和信息的流动。 在最新发表的两篇论文中，他们分享了AI「显微镜」开发上的进展以及其在“AI 生物学”中的应用。

Anthropic和 Databricks 宣布达成一项为期五年的合作协议，合作总金额达1亿美元。此次合作的重点是开发 AI 代理工具，旨在为企业处理各种任务。Databricks 首席执行官阿里・戈德西（Ali ...

这种不透明让AI有时会「胡说八道」，甚至故意撒谎。Anthropic刚刚推出了一项突破性研究，用类似大脑扫描的技术，深入Claude 3.5 Haiku的「脑子」 ...