KGAME APP官方下载入口编辑部
544 阅读
约 5.5 分钟
IT之家9月19日消息，OpenAI 研究员诺姆 · 布朗（Noam Brown）最新表示，伴随着 AI 模型能力越来越强， 模型的思维链可监测性正逐渐下降，未来开发者可能无法有效、可靠地发现、解释并约束 AI 的风险行为。 OpenAI logo IT之家查询公开资料，布朗目前在 OpenAI 公司担任研究科学家（Research Scientist），同时也是推理模型 o1、o3系列的核心贡献者，目前领导多智能体研究团队。 因其创新性的工作，他被《麻省理工科技评论》(MIT Tech Review) 评为“35位35岁以下创新者” (35 Innovators Under 35) 之一。 布朗表示：“思维链可监测性下降已成为主要问题，我们正努力寻找问题根源，从而扭转这种局势，但是我们发现 AI 模型能愈发自如地控制其思维链表达”。 研究人员原本希望从模型展示的中间推理中，看出它是否正在走向欺骗、规避规则或错误目标；但如果模型学会“隐藏内心想法”，那么真实的内部计算过程就未必再能作为可信的安全信号。 特别
![[流言板]吉鲁：能在退役前回酋长球场交手阿森纳，这是我的梦想](/img/about/[%e6%b5%81%e8%a8%80%e6%9d%bf]%e5%90%89%e9%b2%81%ef%bc%9a%e8%83%bd%e5%9c%a8%e9%80%80%e5%bd%b9%e5%89%8d%e5%9b%9e%e9%85%8b%e9%95%bf%e7%90%83%e5%9c%ba%e4%ba%a4%e6%89%8b%e9%98%bf%e6%a3%ae%e7%ba%b3%ef%bc%8c%e8%bf%99%e6%98%af%e6%88%91%e7%9a%84%e6%a2%a6%e6%83%b3.jpg)