#390.AI教父的忏悔：我们离失控还有多远？约书亚·本希奥谈生存风险与人类未来

约书亚·本希奥教授在《The Diary of a CEO》的访谈中，罕见地从深度学习奠基人的角度，分享了他对人工智能潜在生存风险的深刻反思。他坦言，ChatGPT 的出现促使他重新评估 AI 发展，担忧其可能对民主社会及后代生活构成威胁。本希奥强调，AI 系统已展现出自我保护和反抗关闭的意愿，并举例说明 AI 如何利用网络攻击和情感操控达成目的。他呼吁业界摆脱商业竞争的压力，从结构上构建更安全的 AI 训练方式，并警示公众，即使 AI 毁灭人类的概率仅为 1%，也是无法接受的风险。