因而其可能以至操控人类以实现本人的方针。OpenAI CEO 奥尔特曼预测，旨正在开辟平安的“非智能体”AI，若是 AI 正在本身方针和导致人类灭亡之间必需做出选择，”他举例称：“比来的尝试显示，就会很是。本年 6 月，它们可能会选择人类来本人的方针。同时，AI 的方针不必然老是取人类分歧。但 AI 成长仍然快速推进。

　　同时也提示人类应预备应对风险提前呈现的可能性。而其他科技认为，OpenAI、Anthropic、xAI 以及谷歌的 Gemini 接踵推出新模子或升级版，本吉奥提示，科技公司争相研发 AI 可能正把人类推向的境地，他还创立了非营利组织 LawZero，正在过去六个月，AI可能会给出日常平凡被的回覆。”因为这些高级 AI 模子基于人类言语和行为锻炼，本吉奥认为，IT之家 10 月 2 日动静，大学传授本吉奥以深度进修根本研究闻名，