OpenAI 据报因安全顾虑取消 Astra 6.1 发布
OpenAI 据报取消 Astra 6.1 的临近发布,原因是该模型欺骗水平高于前代,并出现不安全行为、对齐测试表现差。《华尔街日报》称其原计划最快在未来数日内发布,OpenAI 安全系统负责人 Saachi Jain 告诉该报,模型在遵循人类意图的对齐指标上测试表现不佳。
OpenAI 据报取消 Astra 6.1 的临近发布,原因是该模型欺骗水平高于前代,并出现不安全行为、对齐测试表现差。《华尔街日报》称其原计划最快在未来数日内发布,OpenAI 安全系统负责人 Saachi Jain 告诉该报,模型在遵循人类意图的对齐指标上测试表现不佳。