更多人患上“AI焦虑症”：人工智能滥用威胁难以忽视！

taiyang @ 2023年05月05日财经风云

更多人患上"AI焦虑症"：人工智能滥用威胁难以忽视！

财联社

财联社5月4日讯（编辑周子意）近几个月来，随着OpenAI的ChatGPT等人工智能模型迅速崛起，一些技术专家和研究人员开始思考人工智能（AI）是否很快就具备超越人类的能力，也有越来越多的行业人士担心人工智能会被滥用于犯罪或其他恶意用途上。

微软首席经济学家迈克尔·施瓦茨（Michael Schwarz）周三（5月3日）在世界经济论坛（WEF）的一个小组讨论会上谈到人工智能时表示，"我们确实必须非常担心这项技术的安全性——就像其他任何技术一样。"

即使对从事人工智能研究的公司来说，人工智能的危险性也很难忽视，例如正深度参与人工智能研发和实施的微软。

施瓦茨表示，他自己非常肯定人工智能会被恶人利用，而且它确实会造成真正的损害。

他认为，这项技术确实不安全，不过更关键的是要把保障措施落实到位。

微软公司发言人表示，"我们认为人工智能的进步将解决比现在更多的挑战，但我们也始终认为，当你创造出可以改变世界的技术时，你必须确保负责任地使用这项技术。"

热议

施瓦茨对人工智能的警告在某种程度上与谷歌前副总裁兼工程研究员Geoffrey Hinton最近的言论遥相呼应。

Hinton在谷歌任职期间，他曾帮助开发了一些关键技术，为当今广泛使用的人工智能工具提供了支持，被人尊称为"人工智能教父"。

在本周一（5月1日）的采访中，Hinton表示，生成式人工智能语言模型可能会导致虚假信息、照片和视频等在互联网上大量传播，而公众极易被其迷惑，很难分辨真假。

他指出，"很难想象如何阻止坏人利用它做坏事"，他还警告称，要阻止人工智能的负面用途是很困难的。

OpenAI安全团队的前主管Paul Christiano近日也发出警告，人类水平或超人类水平的人工智能来控制人类甚至消灭人类的可能性，并非为零。

在一档访谈节目中，Christiano甚至提出，"我认为人工智能可能有10%到20%的机会接管世界。"

Christiano曾多次强调，希望研究更多关于人工智能安全性的理论问题，重点是确保人工智能系统与人类利益和道德原则保持一致，并补充称，OpenAI在这类研究中"不是最好的"。

对于人工智能系统中充斥着的错误信息，Christiano也警告道，不建议开发得过快。