马斯克说了一句让整个AI安全圈不安的话
马斯克说了一句让整个AI安全圈不安的话： 你根本无法控制一个比你更聪明的东西。 他的类比很直接：想象你有一个天才孩子，你知道他终将远超你的智识水平——你能做什么？ 不是规则，不是限制，不是紧急关闭按钮。 只有在他还小的时候，把正确的价值观装进去。 诚实、利他、有道德。 现在全球的AI安全讨论都在设计控制机制，但控制的前提是你比它聪明。 那个前提，正在消失。 留给"把价值观装进去"的窗口，快关上了。
马斯克说了一句让整个AI安全圈不安的话： 你根本无法控制一个比你更聪明的东西。 他的类比很直接：想象你有一个天才孩子，你知道他终将远超你的智识水平——你能做什么？ 不是规则，不是限制，不是紧急关闭按钮。 只有在他还小的时候，把正确的价值观装进去。 诚实、利他、有道德。 现在全球的AI安全讨论都在设计控制机制，但控制的前提是你比它聪明。 那个前提，正在消失。 留给"把价值观装进去"的窗口，快关上了。
