**超级智能的挑战** 研究人员认为,数学是生成式 AI 发展的新前沿。目前,生成式 AI 在通过统计方法预测下一个词以进行写作和语言翻译方面表现良好,但面对同一个问题可能会有截然不同的答案。然而,掌握了数学运算——在这里只有一个正确答案——意味着 AI 将具备更接近人类的推理能力。AI 研究者相信,这一技术可以应用于创新的科学研究。
与只能执行有限运算的计算器不同,AGI 能够进行泛化学习和理解。
研究人员在给董事会的信中提到了 AI 的强大能力和潜在危险,但消息来源没有具体说明信中提到的安全问题。长期以来,计算机科学家一直在讨论超级智能机器可能带来的风险,比如它们可能会认为摧毁人类符合自身利益。