Investing.com -- 网约车公司Lyft与AI公司Anthropic宣布建立合作伙伴关系，共同开发新产品以提升数百万用户的出行体验。此次合作将专注于开发以客户为中心的AI产品和功能，服务于Lyft超过4000万年度乘客和100多万名司机。

近日，人工智能领域再迎创新之举，Anthropic发布了名为“宪法分类器”的安全工具，旨在有效管控大型语言模型的输出，防止其生成有害内容。在这一工具的背后，是对人类价值观的深刻思考与实际操作的结合，时代呼唤更具人性化的智能科技。

近日，人工智能行业的又一重要人事变动引发业内广泛关注。约翰·舒尔曼（John ...

机器之心报道编辑：杜伟、泽南距离他加入 Anthropic，仅仅过去了半年时间。本周四消息，去年刚刚加入知名 AI 创业公司 Anthropic 的 OpenAI 联合创始人约翰・舒尔曼 (John Schulman) ...

人工智能公司 Anthropic 近日宣布开发了一种名为“体质分类器”的新安全方法，旨在保护语言模型免受恶意操纵。该技术专门针对“通用越狱”——一种试图系统性绕过所有安全措施的输入方式，以防止 AI 模型生成有害内容。

Schulman 是去年众多从 OpenAI 离职的高层之一，其他知名专家包括首席技术官 Mira Murato、首席科学家 Ilya Sutskever。Jan Leike 是前 OpenAI 超级对齐小组的联合负责人，该小组致力于让其 AI ...

跑去隔壁Anthropic的OpenAI联创John Schulman，又又又跳槽了。 《财富》爆料，Schulman新的去向，是加入原OpenAI首席技术官Mira Murati的新创业公司。 此时距离他转投Anthropic，仅仅不到半年。 对此 ...

Schulman与OpenAI结缘已久。作为ChatGPT架构师，早在2015年还在读博士学位时，他就加入OpenAI成为联合创始人之一。

IT之家 2 月 8 日消息，OpenAI 联合创始人 约翰・舒尔曼（John Schulman）上周离开了人工智能初创公司 Anthropic ，在该公司仅仅待了五个月。据《财富》杂志报道，他将加入 OpenAI 前首席技术官米拉・穆拉蒂（Mira Murati）的神秘新公司。

NO.1 亚马逊被曝准备发布新一代AI助手Alexa 近日，据外媒报道，亚马逊正准备推出新一代AI助手Alexa。据报道，亚马逊计划在2 月26 日的活动中公布预览升级版的 ...

2月7日，知情人士称，AI创企Anthropic有望获超额认购，实际融资规模高于此前媒体报道的20亿美元，公司估值则会超过600亿美元。 据悉，Menlo Ventures、Bessemer Venture ...

针对这些争议，Anthropic进行了解释。他们指出，成功的越狱行为是绕过了宪法分类器，而非直接规避。他们列举了两种常见的越狱方法：一种是良性释义，即通过改变表述方式绕过敏感内容；另一种是长度利用，即通过添加无关细节来迷惑模型。同时，Anthropic也承认，在测试期间，一些提示因误报或漏报而被错误地拒绝，拒绝率较高。