用“草莓”对抗幻觉？OpenAI新项目隐含人工智能升级关键线索

热点 2024年07月13日 15:26 111 admin

财联社7月13日讯（编辑马兰）OpenAI似乎正在研究一个新的人工智能模型方法，以提供高级的推理能力。

据一份内部文件称，OpenAI内部团队正在进行一个名为“草莓（Strawberry）”的项目，目的是使人工智能不仅能够生成答案，还能提前规划，自主可靠地浏览互联网，执行OpenAI所谓的“深度研究”。

据OpenAI公司发言人称，公司希望其人工智能模型能够像人类一样看待和理解世界，持续研究新的人工智能是业内常见的做法，业内相信这些系统的推理能力会随着时间的推移而提高。但他并未回应草莓的相关问题。

知情人士则称，OpenAI希望新技术可以显著提高其人工智能模型的推理能力。草莓涉及一种在非常大的数据集上进行预训练后，处理人工智能模型的专门技术。

而研究人员指出，推理能力是人工智能实现人类或超人类水平智能的关键。

创新方向

周二，有报道称OpenAI在一次内部集体会议上展示了一个研究项目的结果，其声称拥有类似于人类的推理技能。OpenAI发言人随后证实了这次发表，但拒绝透露具体内容。

而今年早些时候，两名消息人士称自己观看了OpenAI一个名为Q*项目的演示，该演示中的模型能够回答当今商用模型无法解决的棘手科学及数学问题。Q*即为草莓的前身。

更进一步讨论草莓的研究方向，其想要解决的问题或与人工智能无法规避的幻觉问题相关。目前的人工模型在面对常识性问题时常常无法识别正确的逻辑，从而导向幻觉，并生产出虚假的内容。

一名知情人士称，草莓与斯坦福大学2022年开发的一种名为“自学推理机”或“STaR”的方法有相似之处。STaR创建者之一、斯坦福教授Noah Goodman曾表示，STaR理论上可以让大语言模型的智能超越人类水平，这令人兴奋又恐惧。

因此，推理能力被视为升级当下人工智能模型的关键进步，OpenAI首席执行官奥尔特曼也曾强调，在人工智能领域最重要的进步就是推理能力。

另一名消息人士则指出，OpenAI特别希望人工智能模型可以在计算机使用代理的帮助下，自主浏览网页，并根据其发现采取行动。OpenAI还计划测试其在软件和机器学习工程方面的能力。

迈向职场，毕业后的选择与前景，毕业生的就业趋势和前景，迈向职场的必备知识