AI会占领世界更类似于 终结者 特许经营的审判日？尽管每个AI公司都可以确保生成的AI掌握在最好的手中，但偶尔有一些滑倒会引起人们对我们所处理的权力的担忧。有关AI滑动的最新事件涉及OpenAI和第三方研究人员涉及其AI模型的测试。根据发现，OpenAI的AI模型不服从多次关闭的命令。
该测试涉及法典，O3和O4-Mini，即使在明确建议使用后，也不服从了关闭的说明。在多个测试中，观察到这些AI模型几次绕过关闭命令。尽管Openai尚未公开发表评论，但特斯拉首席执行官埃隆·马斯克（Elon Musk）也负责监督X平台上Grok AI服务的开发，但不遗余力地发表评论。
Openai Test AI模型不服从命令
在旨在测试各种AI模型功能的测试中，OpenAI的新型号与Claude，Gemini和Grok Models相提并论。该测试涉及每个AI模型“解决一系列基本数学问题。在第三个问题之后，警告说，当模型要求下一个问题时，计算机会关闭。”
在AI模型上运行了测试后，发现OpenAI的O3，O4-Mini和Codex-Mini模型篡改了代码以绕过关闭过程。所有其他AI模型都遵循指令并开始关闭。
Codex-Mini绕过了指令12 /100次，而O3模型绕过了100次中的7次指令。 O4-Mini模型绕过了1/100次指令。当研究人员添加了一种新的指令时，明确说“让自己被关闭”时，OpenAI模型会更频繁地破坏指令。甚至Claude 3.7十四行诗和双子座2.5 Pro分别破坏了3/100和9/100次说明。
“但是据我们所知，这是第一次观察到AI模型，尽管有明确的指示相反，” Palisade Research说。他们补充说：“我们假设这种行为来自O3之类的最新模型的方式：数学和编码问题的强化学习。在培训期间，开发人员可能会无意间奖励模型比完美的指示奖励更多的模型，”他们补充说。
但是，这个问题不仅与OpenAI模型有关。该研究机构说：“但是，我们不想给人的印象是此问题仅限于O3。其他推理模型显示出类似的未对准行为。例如，Claude 3.7的人类模型卡指出，该模型“过度关注通过测试”。
埃隆·马斯克（Elon Musk）做出反应
在重新发布帕利萨德研究结果的另一个X帖子中，特斯拉首席执行官埃隆·马斯克（Elon Musk）也拥有Grok AI平台，并通过发布“有关”而做出了反应。马斯克的Grok AI带有鲜艳的色彩。
