Student: 目前，人们对于短期内 AI 是否会被滥用非常关注。以及全球冲突和即将到来的选举等问题。你认为现在工业界内的人、政府可以做些什么？还有像我们这样的人，以及那些拥有强大开源模型的人？
Sam: 我认为，一件很重要的事情是，我们不能假装这种技术或者其他任何技术都是完全好的。我相信 AI 将会带来极大的益处。但我也认为，就像任何其他工具一样，它有被滥用的可能，你可以用锤子做伟大的事情，你也可以用锤子去伤害人。我不认为这就意味着我们，或者你们，或者社会应该逃避尽可能减轻不良影响的责任，并最大化好处。但是我确实认为，我们需要意识到，任何足够强大的工具都会把权力交给使用者，或者我们需要做出一些决定，对社会中人们的行为做出限制。我认为我们在这方面可以发表意见。你们也可以在这方面发表意见。我认为政府和我们选举出来的代表，以及民主进程在这个问题上有最大的发言权。但我们不可能做到完全正确。我们这个社会，也不可能做到完全正确。我认为，紧密的反馈循环是我们可以采取的最好方法，让我们尽可能接近正确的方向。那种在安全与自由和自主之间寻求平衡的方式我觉得值得我们借鉴过去的技术并尽我们所能去做到我们，作为社会的一部分，会尽我们所能
Student: 嗨我想问，创造出比任何人都要聪明的东西的可能性让我感到恐惧。
Sam: 当然会我觉得如果我不害怕，那就太奇怪了，也是不好的预兆人类随着时间的推移变得越来越聪明，能力也越来越强你远比你的曾曾祖父母要更有能力在那段时间里，人类基本没有生物学上的改变当然，你的饮食和医疗条件可能会有所改善也可能会变得更糟，我不确定但这并不是你能力更强的主要原因你之所以更有能力，是因为社会基础设施的智慧和能力远远超过了任何个体通过这种方式，你、社会、你的前辈，以及互联网、iPhone 等，使你手指尖有了大量的知识，能做出你的前辈肯定会觉得惊人的事情。现在的社会比你更智慧。就你所知，社会就如同一个通用人工智能。这并不是因为任何个体的大脑，而是我们所有人之间的连接，我们逐步建立并贡献的社会基础设施。然后我们为后来人攀登到更高的高度做出贡献。比我们更智慧的事物也会对这个基础设施做出贡献。你的孩子会有你没有的工具。这个基础设施将被建设得更高更大。这总是有点儿让人恐惧。但我认为，这主要是带来好处，而不是坏处。人们将做出更好的事情，解决更多的问题。未来的人们将能够使用这些新工具，以及这些新工具所增强的新基础设施。如果你想象一个世界，其中 AI 进行了大量的科学发现，那么这种科学进步就会被添加到这个基础设施中，然后你的孩子，或者十年后的你，可以利用它开展全新的探索。但这种变化给人的感觉，并不是因为存在某个智力超群的实体。我们在某种意义上比我们的高祖更加聪明，更有能力。关键在于，每个人都能做更多事情。
