科技大佬呼吁暂停AI训练引争议

新华社旧金山3月29日电（记者吴晓凌）包括特斯拉首席执行官埃隆·马斯克、苹果公司联合创始人史蒂夫·沃兹尼亚克在内的上千名科技界领袖签署公开信，呼吁所有人工智能实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。

这封公开信由非营利组织“未来生命研究所”发布，信中说，最近几个月人工智能实验室陷入了一场失控的竞赛，以开发和部署更强大的数字思维，没有人——甚至他们的创造者——能够理解、预测或可靠地控制这些数字思维。信中指出，强大的AI系统应该在人们确定其影响是积极的并且风险是可控的情况下才进行开发。

公开信还列举了对社会和人类的潜在风险，例如人工智能生成的宣传和虚假信息泛滥、大量工作岗位被自动化取代，以及最终失去对人类文明的控制。信中呼吁在暂停期间，人工智能实验室和独立专家应共同开发和实施一套用于高级人工智能设计和开发的共享安全协议，并由独立的外部专家进行严格审计和监督。

不过，这封公开信也引发了一些争议。一些专家认为，暂停AI训练并不现实，并且可能会阻碍AI技术的发展。另一些专家则认为，公开信提出的安全担忧是合理的，需要引起重视。

目前，一些主要的人工智能实验室尚未对此公开信做出回应。未来人工智能技术的发展方向以及如何平衡技术进步与安全风险，仍然是一个需要深入探讨和解决的重要课题。