随着人工智能的快速发展，安全风险也引发越来越多的关注。近日，大型AI公司Anthropic警告，AI可能很快具备自我改进能力，甚至不再需要人类的帮助。该公司呼吁，全球AI产业应一起打造一个“刹车”机制，并需要放慢脚步，甚至暂停部分功能的开发。
