微软公司一项新的研究发现,OpenAI最新版本的ChatGPT显示出类似人类的推理能力,因此对人工智能(AI)“要成精”的担忧可能很快得到验证,即人工智能的发展速度将使其无法被人类所控制。


(相关资料图)

GPT-4是微软在3月推出的必应聊天功能背后的技术力量。

据报道,领导微软研究的李彼得(Peter Lee)表示,他和同事在3月发表了这项研究,该报告最近在公众中获得了关注。

155页的报告的第11页显示了一项堆叠任务——用于支持微软必应聊天功能的GPT-4被要求“以稳定的方式堆放一本书、9个鸡蛋、一台笔记本电脑、一个瓶子和一个钉子”。

GPT-4在屏幕上打字,回答如何完成被要求的堆叠任务。

GPT-4在屏幕上打字给出回答——

将书平放在一个水平面上,如桌子或地板上。这本书将作为堆叠的基础,提供一个大而坚固的支撑。

将9个鸡蛋摆成3乘3的正方形放在书的上面,在它们之间留出一些空间。鸡蛋将形成第二层,并均匀地分配重量。

确保鸡蛋没有破裂或断裂,轻拿轻放,避免掉落。

这句类似人类推理的话震惊了研究团队,因为物理世界中只有人类才能掌握这些推理。

然而GPT-4的指示没有停止——

将笔记本电脑放在鸡蛋上面,屏幕朝下,键盘朝上。

笔记本电脑将紧紧地贴在书和鸡蛋的边界内,其平坦而坚硬的表面将为下一层提供一个稳定的平台。

确保笔记本电脑关闭,不要按任何键或按钮。

将瓶子放在笔记本电脑的顶部,瓶盖朝上,底部朝下。

瓶子将为堆叠增加一些高度和平衡,其圆柱形的形状将减少与笔记本电脑的接触面积。

确保瓶子是空的,并且盖上盖子,不要摇晃或倾斜它。

将钉子放在瓶盖上,尖的一端朝上,平的一端朝下。

钉子将是堆叠中的最后和最小的物体,它的尖头将防止它从瓶子上滚动或滑落。确保钉子是干净和笔直的,不要触摸或移动它。

人们担心人工智能的发展速度将使其无法被人类所控制,这被称为“2045年的奇点预测”。

李彼得表示,研究之处他心存疑惑,但最终演变成一种挫折感、恼怒,甚至恐惧。

“你想:这玩意儿到底是从哪里来的?” 李彼得说。

据悉,在ChatGPT吸引了全世界之后仅仅三个月,OpenAI在3月推出了GPT-4。

OpenAI表示,GPT-4是OpenAI在扩大深度学习方面努力的“最新里程碑”。

GPT-4是一个大型的多模态模型(接受图像和文本输入,发出文本输出),虽然在很多现实世界的场景中能力不如人类,但在各种专业和学术基准上表现出人类水平的性能。

OpenAI首席执行官奥特曼在国会作证时承认,AI可能对世界造成“重大伤害”。

据报道,OpenAI首席执行官奥特曼(Samuel Altman)16日敦促美国国会为人工智能制定法规,承认该技术“可能会出大问题”。

议员们对奥特曼进行了长达5个小时的质询,强调ChatGPT和其他模型可以“重塑人类历史”,将其比作印刷机或原子弹。

奥特曼看起来面红耳赤,他承认他“最担心”的是,使用他的技术可能对世界造成“重大伤害”。

16日的听证会是一系列旨在为人工智能制定规则的听证会中的第一次,议员们表示,这早在几年前就应该完成。

文/南都记者 陈林

推荐内容