AI神经元失控？科技先锋警告：AI系统或将对抗人类

AI巨头警示：人类或将陷入AI神经元失控的危机！

科技快讯中文站

　　 图灵奖得主、计算机科学家 Yoshua Bengio 最新发出警告，指出人工智能技术可能对人类社会带来不利影响，并呼吁加强研究以降低潜在风险。

　　 Bengio在深度学习领域荣获多项国际大奖，为人工智能的进步打下了坚实的基础。然而，他如今对这一技术表达了深切的忧虑，并警示称，某些握有“巨大权力”的人甚至可能期望看到人类被机器所取代。

　　 他表示：展望未来，机器将在诸多领域具备与人类相当的智慧，这将对社会产生深远影响。他补充道，机器可能很快就会具备人类的大部分认知能力，通用人工智能（AGI）正逐渐成为现实。

　　 Bengio认为，只有少数组织和政府能够负担得起建造强大的AI机器，而且往往系统越大，它们就越智能。“这些机器，你知道的，花费数十亿美元来建造和训练，很少有组织和国家能够做到这一点，这已经是事实了。”

　　 Bengio强调，我们目前还没有找到有效的方法来确保这些人工智能系统不会对人类造成伤害，或者不会违背人类的意愿……我们尚未掌握这样的技术手段。 从这个角度来看，尽管人工智能技术在许多领域取得了显著的进步，但在确保其安全性和可控性方面仍然存在巨大的挑战。这不仅需要技术上的突破，也需要社会各界共同参与，制定相应的伦理准则和技术标准，以确保人工智能的发展能够真正造福于人类社会。

　　 而且这样的前景离我们并不远，Bengio认为，在数十年内就可能成为现实，因此，人类需要仔细研究许多相关问题，并尽快着手应对可能的风险。

　　 需要进行监管和立法

　　 有观点指出，当前AI系统的训练方法可能会使系统与人类产生对立。“此外，一些人可能试图滥用这种能力，而另一些人则可能乐见人类被机器取代，除非我们现在建立起恰当的规范和限制。”

　　 在今年六月，众多科学家，其中包括著名学者Bengio，共同签署了一封公开信，信中题为“关于高级人工智能的风险警示”。这封信呼吁科学界、政策制定者以及广大公众共同努力，为减少这些潜在风险提供指导方向。 从这一事件中可以看出，高级人工智能技术的发展已经引起了广泛的关注与担忧。随着技术的进步，我们不仅需要关注其带来的便利和机遇，更应该警惕可能引发的社会、伦理甚至安全问题。因此，建立一个多方参与的对话平台显得尤为重要，通过这样的平台，可以促进不同领域专家之间的交流与合作，共同探索如何在推动技术发展的同时，确保其健康发展，并最大限度地降低潜在风险。此外，政策制定者也应积极行动起来，通过立法等方式为人工智能的应用设定合理边界，以保护公众利益不受侵害。

　　 Bengio指出：“政府需要做的第一件事就是制定法规，迫使科技公司在建立这些前沿系统时进行注册，政府应该知道他们的边界在哪里，你知道的，这些系统的细节。”

　　 由于AI发展如此之快，政府必须“发挥自己的创造力”，制定能够适应技术变化的立法。Bengio表示：“为了享受人工智能带来的好处，我们必须进行监管，我们必须安装护栏，我们必须对技术的开发进行监督。”

　　 关于AI系统可能带来的负面影响，有专家指出，在短期内，主要问题可能是虚假信息、错误信息以及AI对政治和公众认知的影响。“随着技术的进步，我们将看到能够生成更加逼真图像、声音和视频的设备。” 这一现象值得我们深思。虽然AI技术为社会带来了许多便利和发展机遇，但其潜在的风险也不容忽视。特别是在信息传播方面，高度逼真的伪造内容可能会误导公众，甚至影响选举结果和社会稳定。因此，如何在推动科技进步的同时，加强相关法律法规建设，提升公众的信息识别能力，成为了亟待解决的问题。

　　 最难的是，如果我们创造出比我们更聪明且拥有自己目标的实体，这对人类意味着什么？Bengio表示：“这些问题极其复杂且至关重要，目前尚无定论。但我们需要进行更多的研究并采取预防措施，以降低潜在风险。”