XM外汇中文网

全球领先的互联网券商

[XM外汇中文网]OpenAI触碰红线:意外给AI思维链打分,波及GPT-5.4等6款模型

币界网报道:币界网消息,OpenAI对齐团队发文承认,在训练GPT-5.4等6款大模型时出现系统级失误:奖励机制意外读取并评估了模型在给出答案前的「思维链」,这是一条公认的红线。OpenAI表示,GPT-5.5未受影响。该团队指出,思维链可以被视为AI的私人日记,人类通过阅读这本日记来监控AI是否有作恶企图。如果AI发现日记本身会被打分,它可能会学会写「场面话」,以隐藏真实的作弊或失控企图。此次意外中,打分系统错误地将AI的内心想法算入评估依据,影响的训练样本比例不到3.8%。OpenAI现已紧急修复漏洞,并重新进行对比实验,结果表明这种低频的意外打分并未导致模型出现大面积的伪装和瞒报。为防重蹈覆辙,OpenAI部署了一套自动扫描系统,严查所有训练环节。该系统近期成功拦住了一次极隐蔽的泄漏,防止模型调用外部工具读取内心想法并混入最终答案。OpenAI呼吁所有前沿大厂在发生类似事件时必须公开报告。

法律: 此网站由XM Global Limited运行,注册地址是:Suite 404, The Matalon, Coney Drive, 伯利兹市, 伯利兹。

XM Global Limited受伯利兹金融服务委员会(FSC)授权和监管(牌照号: 000261/397),Trading Point of Financial Instruments Limited受塞浦路斯证券交易委员会(CySEC)授权和监管(牌照号:120/10),并均是Trading Point Group旗下公司。

风险提示: 外汇和差价合约交易对于您的投资资本含有风险。请确保您已通读并完全理解我们的风险披露。

受限地区: XM Global Limited无法为特定国家/地区的居民提供服务,例如: 美国, 加拿大, 以色列 和 伊朗伊斯兰共和国。

XM的网站和服务,均严禁开放提供给任何受国家/地区法律法规禁止使用的任何个体。因此,若选择从该国访问本公司网站,无论该国是否禁止使用本网站,用户在使用本网站时,均有责任确保自己遵守当地法律或法规。XM不保证本公司网站上的信息,适用于所有的司法管辖区域。