人工智能未来与全球挑战

目录

• 😊 介绍
• 😊 回顾过去八年
  • 😊 成功之处
  • 😊 不确定性的挑战
• 😊 关于 AI 安全的观点演变
• 😊 使用社会资本的策略
• 😊 对 AI 未来的看法
• 😊 中国的观察和见解
• 😊 改变 Overton 窗口
• 😊 全球协调挑战
• 😊 集团的影响力
• 😊 爱沙尼亚在 AI 未来中的角色
• 😊 其他潜在的全球性风险
• 😊 现场问答
• 😊 结语

介绍

大家好，很高兴能在这里和大家交流。今天我要和大家分享一些关于过去八年以及未来人工智能发展的见解和经验。

回顾过去八年

成功之处

过去的八年里，我所见证的最重要的进展之一是 EA 运动的规模扩大。现在，人们公开谈论 AI 安全已经成为了可能，这是一个巨大的进步。此外，全球对于存在风险的关注不断增加，有更多的人、更多的人才和更多的资源投入到了这个领域。

不确定性的挑战

然而，我们仍然面临着时间不确定性的挑战。我们取得了很大的进展，但我们仍然不确定我们还有多少时间。这种不确定性使得我们在未知的截止日期下取得了伟大的进步。

关于 AI 安全的观点演变

在过去的八年里，我对 Yudkowsky 式的快速启动或事情迅速失控的担忧有所改变。随着更多的人涉足 AI 安全领域，我的观点也变得更加多元化或不确定。现在有更多的假设，更多的观点，关于未来可能发生的事情。我曾资助了一项项目，试图协调不同的观点和假设，以更好地理解未来可能发生的事情。

使用社会资本的策略

我一直以来都坚持认为，谦逊的认识论是很重要的。我的编程经历给了我直观的认识，我可以用它来评估论点。通过与许多不同的人讨论，我发现我可以利用自己的社会资本来支持一些我认为真实但人们需要有所信仰的论点。

对 AI 未来的看法

当前深度学习框架可能会导致我们拥有大致与人类水平或超人类水平相当的系统，但它们仍然无法理解自己。这可能导致全球不稳定，因为突然间人类不再是这个星球上最聪明的规划者。

中国的观察和见解

最近我在中国做了一系列演讲，我发现中国政府和社会非常重视人工智能的发展。他们对于人工智能的长期哲学性质有着意想不到的兴趣，这在西方并不常见。我认为中国可能会成为全球 AI 发展的领导者之一。

改变 Overton 窗口

我一直在努力推动 Overton 窗口的变化。我认为 AI 不仅仅是社会问题，它还可能是环境问题。如果我们能够意识到 AI 对环境的影响，那么我们就能够更容易地进行全球讨论。

全球协调挑战

全球协调一直是我感兴趣的话题之一。随着技术的不断发展，我们可能会有更多的工具来实现全球协调，这包括利用区块链技术等。

集团的影响力

我一直在支持各种组织和项目，我相信非营利性组织是最有效的方式。营利性公司可能会受到盈利目标的制约，而非营利性组织则可以更专注于为世界带来积极影响。

爱沙尼亚在 AI 未来中的角色

虽然爱沙尼亚在技术领域取得了很多成就，但我认为它在 AI 未来中的作用可能有限。随着 AI 技术的不断发展，我们可能需要更多的全球协调和合作。

其他潜在的全球性风险

除了人工智能之外，合成生物技术也是一个潜在的全球性风险。它可能比人工智能更容易被用于破坏性目的，但我们也可以利用智能来控制它。

现场问答

Q: 大型科技公司的领导人实际上有多少互相交流?

A: 我不太确定。

Q: 你建议对于那些想要通过赚钱来支持人工智能安全的人该怎么做？

A: 我建议关注 80,000 小时，他们对此有