人工智能公司 Anthropic 近日宣布开发了一种名为“体质分类器”的新安全方法，旨在保护语言模型免受恶意操纵。该技术专门针对“通用越狱”——一种试图系统性绕过所有安全措施的输入方式，以防止 AI 模型生成有害内容。

2025年2月6日，OpenAI联合创始人约翰·舒尔曼 (John ...

机器之心报道编辑：杜伟、泽南距离他加入 Anthropic，仅仅过去了半年时间。本周四消息，去年刚刚加入知名 AI 创业公司 Anthropic 的 OpenAI 联合创始人约翰・舒尔曼 (John Schulman) ...

Investing.com -- 网约车公司Lyft与AI公司Anthropic宣布建立合作伙伴关系，共同开发新产品以提升数百万用户的出行体验。此次合作将专注于开发以客户为中心的AI产品和功能，服务于Lyft超过4000万年度乘客和100多万名司机。

近日，人工智能行业的又一重要人事变动引发业内广泛关注。约翰·舒尔曼（John ...

IT之家 2 月 8 日消息，OpenAI 联合创始人 约翰・舒尔曼（John Schulman）上周离开了人工智能初创公司 Anthropic ，在该公司仅仅待了五个月。据《财富》杂志报道，他将加入 OpenAI 前首席技术官米拉・穆拉蒂（Mira Murati）的神秘新公司。

NO.1 亚马逊被曝准备发布新一代AI助手Alexa 近日，据外媒报道，亚马逊正准备推出新一代AI助手Alexa。据报道，亚马逊计划在2 月26 日的活动中公布预览升级版的 ...

Schulman 是去年众多从 OpenAI 离职的高层之一，其他知名专家包括首席技术官 Mira Murato、首席科学家 Ilya Sutskever。Jan Leike 是前 OpenAI 超级对齐小组的联合负责人，该小组致力于让其 AI ...

跑去隔壁Anthropic的OpenAI联创John Schulman，又又又跳槽了。 《财富》爆料，Schulman新的去向，是加入原OpenAI首席技术官Mira Murati的新创业公司。 此时距离他转投Anthropic，仅仅不到半年。 对此 ...

2月7日，知情人士称，AI创企Anthropic有望获超额认购，实际融资规模高于此前媒体报道的20亿美元，公司估值则会超过600亿美元。 据悉，Menlo Ventures、Bessemer Venture ...

Schulman与OpenAI结缘已久。作为ChatGPT架构师，早在2015年还在读博士学位时，他就加入OpenAI成为联合创始人之一。

针对这些争议，Anthropic进行了解释。他们指出，成功的越狱行为是绕过了宪法分类器，而非直接规避。他们列举了两种常见的越狱方法：一种是良性释义，即通过改变表述方式绕过敏感内容；另一种是长度利用，即通过添加无关细节来迷惑模型。同时，Anthropic也承认，在测试期间，一些提示因误报或漏报而被错误地拒绝，拒绝率较高。