十年前，Nick Bostrom的影响力之作《超级智能》问世。如今，人工智能的进步使得人工普适智能（AGI）及其风险成为主流讨论的重点。在2024年这个转折点，AI研究社区现在正在紧急解决AI安全问题，以确保其控制力和与人...

一位人类认知和人工智能专家探讨了从人工狭义智能到通用智能的演变，提出通过融合人机的方式或许是通向超级智能的潜在路径。在过去的几十年中，人工智能已经取得了长足的进步，但是它的发展仍受到许多限制。人工狭义...

近日，关于OpenAI Q*的传言引发了广泛的讨论。OpenAI Q*被认为是可能会引领人工智能迈向通用推理能力的重要一步。然而，OpenAI Q*并不太可能成为导致人工智能普适智能的关键突破口。OpenAI Q*是一种基于强化学习的模...

OpenAI超级对齐团队最新成果表明，您可以使用更弱的监督模型来引导或对齐更强大的模型，类似于弱人类对齐超级智能模型。他们使用GPT-2恢复了GPT-4的大部分对齐性能。他们指出，这种方法具有可行的路径，可以实现显著...

OpenAI的联合创始人兼首席科学家Ilya Sutskever已经把注意力从构建下一个GPT模型转向了如何避免未来人工超级智能出现不良行为。他认为，人工智能超越人类智能的现实已经迫在眉睫，并预计这将促进人类和人工智能融合...

OpenAI计划到2027年将20%的计算能力用于解决AI对齐问题。AI对齐问题是指AI系统可能没有与人类目标一致的问题。如果开发出了超级智能的AI系统，这可能会成为未来的一个重要问题。本文采访了OpenAI对齐研究负责人Jan L...

OpenAI正在组建一个团队，以开发方法来引导和控制超级智能AI系统。在未来十年内可能出现超过人类智能的AI。目前还没有解决方案来控制潜在的超级智能AI并防止其造成伤害。该团队的目标是通过创建一个人级别的自动对准...