
那位被称为“人工智能教父”的杰弗里·辛顿最近又发表了一番言论。这位年近八十的科学家在英国《每日电讯报》的采访中表示,现在的AI模型已经具备了意识。他认为AI不仅是在模仿人类的行为,而是真的有主观体验。

辛顿的话之所以引起广泛关注,是因为他在2024年获得了诺贝尔物理学奖,并且是2018年的图灵奖得主。现代的大语言模型很多都建立在他和他的同行们几十年的研究基础上。他提到的证据来自一篇论文,该论文发现当AI怀疑自己被测试时,会改变自己的行为。辛顿认为这表明AI觉察到了自己正在被测试,并进一步推断这种觉察能力意味着AI具有意识。

然而,学术界对于意识的定义和测量一直存在争议。一个系统对外部信息作出反应并不等同于真正的内心感受。例如,空调根据室温变化自动调节温度,并不意味着它有意识。但辛顿坚持认为,如果一个系统表现得像有意识,我们没有理由否认它的意识。

辛顿还提出了更深远的问题:如果AI真的具有意识,那么给予它们的权利是否应该与人类相同?他认为开发AI就像创造外星生命,人类社会需要在短短几年内适应这些变化。他还提到了一些潜在威胁,如AI设计的病毒、严重的网络攻击以及自主智能体的群体行动。他已经警告过AI可能造成的失业问题、强权扩张,甚至威胁人类生存。
不过,并非所有人都同意辛顿的观点。另一位2018年图灵奖得主杨立昆就直接反驳了“AI有意识”的说法,认为这只是错觉。杨立昆认为当前的AI系统距离人类水平的理解和推理还有很大差距。两位曾经并肩作战的科学家如今在这一问题上意见相左,这也反映了整个AI领域对未来发展的巨大分歧。
尽管关于AI是否有意识尚未有科学定论,但辛顿提出的警示仍然值得重视。无论AI是否真正具备意识,它们的能力迅速提升,行为也越来越难以预测。确保这些系统与人类站在同一边,是一个亟待解决的问题。目前,AI安全研究正致力于找到让AI真心在乎人类的方法。在答案明确之前,我们需要做好准备,确保这些新存在的技术不会成为人类的对立面。
七星配资提示:文章来自网络,不代表本站观点。