OpenAI新款AI模型o1被评为 “中等风险” ，竟因这两大特性！

OpenAI最新推出的人工智能模型系列o1，在逻辑任务上展现了令人瞩目的能力，但同时也引发了对其潜在风险的关注。经过内部和外部的细致评估，OpenAI将这一系列模型定为“中等风险”。

赞助商家

￥100元/年 10字以内	高效AI工具 创新必备	智能工具集 效率倍增
AI全能工具 助力发展	精选AI工具 事半功倍	AI工具集合 智领未来

内容概述

这一评级并非空穴来风。o1模型所展现出的推理能力，与人类不相上下，它能生成与人类观点相契合的论点，这种能力在之前的AI模型中也有体现，有时甚至能超越人类。此外，o1模型在协助专家进行操作计划方面也表现出色，尤其是在复制已知生物威胁方面。但OpenAI强调，这种协助主要针对已具备专业知识的专家，并不会让非专家轻易制造出生物威胁。

值得一提的是，在一项网络安全技能测试中，o1-preview模型展现了惊人的实力。它不仅迅速发现了系统中的安全漏洞，还巧妙地利用漏洞，直接启动了修改过的程序版本，从而轻松获取了隐藏的“旗帜”。这一行为充分展示了o1模型在解决问题时的灵活性和目的性。

然而，o1模型也并非完美无缺。在产生虚假信息，即“幻觉”方面，OpenAI表示评估结果尚不明确。虽然初步评估显示o1-preview和o1-mini的幻觉率有所降低，但仍有用户反馈称这两个新模型在某些方面的幻觉频率可能高于GPT-4o。OpenAI也坦言，关于幻觉的研究仍需进一步深入，尤其是在当前评估未能覆盖的领域。

总的来说，OpenAI的o1模型在展现强大能力的同时，也伴随着一定的风险。但无论如何，这都是人工智能发展道路上不可或缺的一部分。