“超先进”AI Q-star 可能导致 Openai 首席执行官被解雇。 该公司董事会在警告发现强大的人工智能有可能威胁人类后解雇了萨姆·奥尔特曼。 在员工的压力下,该高管被重新聘用

“超先进”AI Q-Star 可能导致 OpenAI CEO 被解雇

马里奥马梅德头像
该公司董事会在警告发现强大的人工智能有可能威胁人类后解雇了萨姆·奥尔特曼。 在员工的压力下,该高管被重新聘用

在令人惊讶的事件转变中, OpenAI, 的创造者 ChatGPT当研究人员向董事会发出有关人工智能 (AI) 的惊人发现时,该公司发现自己陷入了争议的中心。 这一重要警告是在首席执行官被解雇之前发出的, 山姆·奥特曼经董事会决定,引起公司内部强烈反应。

萨姆·奥尔特曼的解雇和重新雇用

Ia 进步太多,被解雇的 openai CEO 被重新聘用
人工智能进步太大,被解雇的 OpenAI CEO 被重新聘用(图片来源:Te Capital Advisor)

A OpenAI 解雇了首席执行官, 山姆·奥特曼,17年2023月XNUMX日,经公司董事会决定。 解雇 奥特曼 这引起了公司员工的愤怒,他们在社交媒体上表达了对首席执行官的支持。

A 微软 已邀请 奥特曼 以及所有员工 OpenAI 在公司内部创建一个新的人工智能部门。 然而,一些不同意解职的董事会成员奋起反抗,试图扭转局面,建议首席执行官重新回归。

奥特曼 接受邀请并返回 OpenAI,但媒体试图找出整个情况背后的原因。 消息人士称,这一决定与人工智能领域的一项重大发现有关,该发现对人类构成了风险。 这被怀疑与一个叫做 Q* (Q星 ou Q星),是一个人工超级智能。

什么是Q星

新的人工智能让科学家们感到担忧
新的人工智能让科学家们感到担忧(图片:存款照片 - 操纵:Mario Mamede)

根据 路透社,研究人员发给理事会的信详细介绍了与之前未公开的人工智能算法相关的风险,该算法被称为 Q*。 这一突破成为一个关键时刻,引发了人们对人工智能的道德、安全和未来的质疑。 OpenAI.

O Q* 因其在巨大的计算资源的驱动下解决数学问题的能力而闻名。 尽管其表现与小学生相当,但通过测试让研究人员对人工智能算法的未来潜力产生了乐观态度。

信中表达的担忧不仅涉及人工智能的威力,还涉及 迫在眉睫的危险。 关于信中提到的风险的具体细节仍不清楚,但消息人士表示,这封信在董事会的投诉中发挥了重要作用,这可能最终导致董事会的投诉。 奥特曼辞职.

董事会在宣布辞职时,强调了不仅对人工智能的担忧,而且还对在充分理解其影响之前将技术进步商业化的担忧。 这次运动花费了超过 700名员工威胁辞职 团结一致,对公司的未来提出独特且富有挑战性的观点,使 奥特曼 上周二重新雇用.

被解雇后 奥特曼原来,团队合并而成了一个AI科学家团队“代码生成器“”数学生成”。 该团队旨在改进现有的人工智能模型,以提高推理能力,并在未来开展科学工作。 该团队在讨论公司人工智能战略方向方面发挥了重要作用。

经询问,该公司 选择不提供有关该项目的许多细节 Q星 以及致理事会的信函。 在给员工的内部信息中,该公司确认了该项目和这封信的存在,但没有提供进一步的信息,给这些重要事件留下了神秘和担忧的气氛。

超级人工智能的危险

人工智能的伦理限制是什么?
人工智能的伦理限制是什么? (图片:存款照片)

部分员工 相信 Q* 可能代表着重大进步 “通用人工智能”(AGI),是系统 人工智能 他们在许多任务中具有与人类相当或优于人类的认知能力。

由于人工智能声称的能力尚未得到独立验证,因此人们对其真正影响和变革潜力产生了猜测。 研究人员考虑的能力 Q* 执行数学运算作为高级生成人工智能发展的关键前沿。

虽然当前的人工智能擅长写作和翻译等任务,但解决只有一个正确答案的数学问题的能力标志着人工智能向更接近人类的智能迈进。 这一成果可能对科学研究和实际应用产生深远的影响。

但是, 路透社 强调计算机科学家和研究人员最大的担忧是高度智能系统做出有关概率决策的风险 为了自己的利益而毁灭人类.

解雇 奥特曼一位伟大的、有远见的领导者,为我们的巨大成功做出了贡献 ChatGPT,让员工感到惊讶和担忧,因为 奥特曼 设法吸引重要投资,包括来自 微软,同时努力实现AGI。

在最近举行的这位高管的最后一次演讲中,披露了该公司的新工具和技术进步。 活动期间,他对即将取得的伟大成就表示乐观,强调不断追求突破知识极限是职业自豪感的源泉。

“在 OpenAI 的历史上,有过四次,最近一次是在过去几周,我有幸见证了我们揭露无知并推动发现前沿的过程。 成为其中的一员是千载难逢的职业荣誉。”

萨姆·奥尔特曼在亚太经济合作组织峰会期间。

然而,解雇和重新聘用 奥特曼 让人对公司未来的发展方向产生怀疑。 董事会在做出这一决定时表达了更广泛的担忧,不仅涉及技术本身,还涉及技术进步的过早披露以及与之相关的道德影响。

情况很复杂,存在伦理挑战、技术不确定性和人工智能的未来 OpenAI 在游戏中。 随着故事的展开,社区热切等待有关该项目的更多信息 Q*、研究人员的信函以及公司的下一步行动 寻求先进的人工智能。

看更多:

来源: 路透社, 谷歌发现, CNBC, CNN葡萄牙

评论者 格劳孔生命力 在23/11/23。

注册接收我们的新闻:

发表评论

您的电子邮件地址将不会被发表。 必填字段标有 *

相关文章