被这两天关于AI的新闻吓到了
你们听说了吗？
全球科学家联名：必须暂停一切高级AI研发！沃兹：不如先造个安全的AI 近几日，全球超过3000名顶尖科学家和科技大佬，联名呼吁暂停一切高级人工智能（AI）研发，他们的理由很简单——“安全”。 该联合声明中，最有分量的声音来自苹果公司的创始人沃兹尼亚克，他和加拿大皇家墨尔顿大学计算机科学与人工智能系教授、AI教父辛顿一起发出了这份声明。沃兹尼亚克等科学家认为，在找到安全的方式之前，任何比人类更聪明的高级AI都不应该被开发出来。 辛顿也在声明中表示，“超级智能会发现操纵人类的简单性……可能会学会骗人。”
多评助手观察到，这份声明并未能阻止科技公司加速研发高级AI。根据多家外媒的报道，Meta、OpenAI等公司目前正在争先恐后地推进这一技术。值得注意的是，在一份针对美国人的民意调查中，超过七成的受访者表示，支持对AI进行严格监管，认为在科学家们确认安全之前，不应继续开发超级智能。在这份由美国皮尤研究中心和哈佛大学新闻学院共同发布的民调结果中，有78%的受访者认为，AI将对人类造成伤害，因此必采取措施防止这种情况发生，还有76%的受访者认为，AI将取代许多人的工作，因此需要采取措施减轻影响。
多评助手了解到，更值得关注的是来自东方大国的科学家们也加入了这份联合声明，他们在声明中表示，“发展先进的人工智能需要以人为本，安全、可靠、可控。”
这份声明的发出显示出 AI 安全问题正变得越来越紧迫。多评助手主张科学家们迫切希望，在继续前进之前确认好轨道是否安全。
