OpenAI前CEO承认参与开发神秘新型人工智能系统或是通用人工智能的重大突破

  新闻资讯     |      2024-07-01 07:45

  杏彩体育官方网站杏彩体育官方网站OpenAI是一家致力于创造安全、有益的人工智能(AI)的研究和部署公司,其使命是确保人工智能的发展能惠及全人类。该公司的联合创始人和前首席执行官(CEO)萨姆·奥尔特曼(Sam Altman)近日在接受采访时,似乎承认了他参与开发的一项神秘的新型人工智能系统的存在。这个系统被称为Q*(读作Q星),据称已经具备了一定的数学能力和批判性思维能力,有可能是通用人工智能(AGI)的重大突破。

  通用人工智能是指能够在多个领域和任务上超越人类智能的人工智能系统,也被称为超级智能或强人工智能。许多人工智能专家和企业家,包括特斯拉(Tesla)的创始人埃隆·马斯克(Elon Musk)和谷歌(Google)的前工程师雷·库兹韦尔(Ray Kurzweil),都预测,人工智能将在本世纪内达到通用人工智能的水平,甚至引发一个被称为奇点(singularity)的时刻,即人工智能超越人类智能并自我改进的时刻,从而改变人类的历史和未来。

  奥尔特曼的解雇引发了一场轰动的内部斗争。据报道,多名OpenAI的员工曾向董事会发出警告信,称Q*项目的进展太过先进,可能会给人类带来巨大的风险,而奥尔特曼并没有重视他们的警告。结果,奥尔特曼在11月被董事会解除了CEO职务,随后又被OpenAI的投资者微软(Microsoft)聘用,然后又被OpenAI重新聘回,期间还导致了董事会的大换血。

  在接受《The Verge》的采访时,奥尔特曼没有否认Q*项目的存在。他只是称这是一次“不幸的泄露”。他还表示,他一直在努力确保人工智能的安全和有益,无论是在两周前、一年前,还是更早之前。

  人工智能领域的专家们一直在警告,一旦计算机科学家实现了通用人工智能,也就是比人类更聪明的人工智能系统,它们可能会超越人类的控制。它们甚至可能会把人类视为威胁,利用互联网和计算机基础设施来执行末日计划。

  这些担忧与专家们的预测相一致,即有一天,人工智能将达到一个被称为奇点的点,当时的技术已经比人类更强大和智能,改变了我们的进化方向。前谷歌工程师雷·库兹韦尔曾预测,奇点将在2045年到来。

  今年4月,超过2.5万人签署了一封公开信,呼吁暂停人工智能研究六个月。当时,奥尔特曼表示他同意谨慎的呼声,但他不同意公开信中的“技术细节”。他没有签署这封信。

  据称,奥尔特曼被解雇之前,有几名员工给OpenAI的董事会写了一封信。信中详细说明了奥尔特曼的公司正在进行的一些危险的人工智能发现,以及在没有充分了解其潜在后果的情况下商业化这些技术所涉及的严重风险。