#575.杰弗里·辛顿：如何面对 AI 失控焦虑，超级智能临近下的人类位置之争

人工智能正以超乎预期的速度演进，其带来的智能风险与人类的未来定位成为核心议题。深度学习奠基人 Geoffrey Hinton 指出，AI 模型已具备真正的理解能力与意识，而非简单的统计预测工具。随着算力与资源的巨量投入，AI 在数学推理及通用知识领域已展现出超越人类的潜力，这种指数级的增长使得未来十年充满不确定性。当前 AI 研发受制于企业间的激烈竞争，利润最大化目标往往与安全性背道而驰，导致缺乏有效的方向盘来规避潜在的生存威胁。人类必须有意识地设计 AI，使其将人类利益置于自身目标之上，而非仅仅追求性能提升，以应对超级智能可能带来的失控风险。