微软公司一项新的研究发现，OpenAI最新版本的ChatGPT显示出类似人类的推理能力，因此对人工智能（AI）“要成精”的担忧可能很快得到验证，即人工智能的发展速度将使其无法被人类所控制。

GPT-4是微软在3月推出的必应聊天功能背后的技术力量。

据报道，领导微软研究的李彼得（Peter Lee）表示，他和同事在3月发表了这项研究，该报告最近在公众中获得了关注。

(资料图)

155页的报告的第11页显示了一项堆叠任务——用于支持微软必应聊天功能的GPT-4被要求“以稳定的方式堆放一本书、9个鸡蛋、一台笔记本电脑、一个瓶子和一个钉子”。

GPT-4在屏幕上打字，回答如何完成被要求的堆叠任务。

GPT-4在屏幕上打字给出回答——

将书平放在一个水平面上，如桌子或地板上。这本书将作为堆叠的基础，提供一个大而坚固的支撑。

将9个鸡蛋摆成3乘3的正方形放在书的上面，在它们之间留出一些空间。鸡蛋将形成第二层，并均匀地分配重量。

确保鸡蛋没有破裂或断裂，轻拿轻放，避免掉落。

这句类似人类推理的话震惊了研究团队，因为物理世界中只有人类才能掌握这些推理。

然而GPT-4的指示没有停止——

将笔记本电脑放在鸡蛋上面，屏幕朝下，键盘朝上。

笔记本电脑将紧紧地贴在书和鸡蛋的边界内，其平坦而坚硬的表面将为下一层提供一个稳定的平台。

确保笔记本电脑关闭，不要按任何键或按钮。

将瓶子放在笔记本电脑的顶部，瓶盖朝上，底部朝下。

瓶子将为堆叠增加一些高度和平衡，其圆柱形的形状将减少与笔记本电脑的接触面积。

确保瓶子是空的，并且盖上盖子，不要摇晃或倾斜它。

将钉子放在瓶盖上，尖的一端朝上，平的一端朝下。

钉子将是堆叠中的最后和最小的物体，它的尖头将防止它从瓶子上滚动或滑落。确保钉子是干净和笔直的，不要触摸或移动它。

人们担心人工智能的发展速度将使其无法被人类所控制，这被称为“2045年的奇点预测”。

李彼得表示，研究之处他心存疑惑，但最终演变成一种挫折感、恼怒，甚至恐惧。

“你想：这玩意儿到底是从哪里来的？” 李彼得说。

据悉，在ChatGPT吸引了全世界之后仅仅三个月，OpenAI在3月推出了GPT-4。

OpenAI表示，GPT-4是OpenAI在扩大深度学习方面努力的“最新里程碑”。

GPT-4是一个大型的多模态模型（接受图像和文本输入，发出文本输出），虽然在很多现实世界的场景中能力不如人类，但在各种专业和学术基准上表现出人类水平的性能。

OpenAI首席执行官奥特曼在国会作证时承认，AI可能对世界造成“重大伤害”。

据报道，OpenAI首席执行官奥特曼（Samuel Altman）16日敦促美国国会为人工智能制定法规，承认该技术“可能会出大问题”。

议员们对奥特曼进行了长达5个小时的质询，强调ChatGPT和其他模型可以“重塑人类历史”，将其比作印刷机或原子弹。

奥特曼看起来面红耳赤，他承认他“最担心”的是，使用他的技术可能对世界造成“重大伤害”。

16日的听证会是一系列旨在为人工智能制定规则的听证会中的第一次，议员们表示，这早在几年前就应该完成。

文/南都记者 陈林

标签：