OpenAI将用新方法来训练模型,以对抗人工智能“幻觉”

2023-06-02  美国 来源:其他 作者:刘纪铖 领域:信息

关键词:

据品玩网6月11日消息,OpenAI发布的最新研究论文显示,其正在用一种新的方法来训练人工智能模型,以对抗人工智能“幻觉”。OpenAI提出的新策略是:训练人工智能模型时,奖励每个正确的推理步骤,而不仅仅是简单地奖励正确的最终结论,这种方法被称为“过程监督”,而不是“结果监督”,它可能会提高人工智能的性能与准确性,因为这种策略鼓励模型更多地遵循类似人类的“思维链”。OpenAI研究人员表示,即使最先进的人工智能模型也很容易产生谎言,它们在不确定的时刻往往表现出捏造事实的倾向。而这些“幻觉”在需要多步骤推理的领域尤其严重,因为一个逻辑错误就足以破坏一个更大的解决方案。

消息来源:https://www.pingwest.com/w/283144