奥巴马当了八年总统，现在已经卸任近十年，仍然积极影响民主党政治；阿莫代伊经营世界最重要的AI公司之一，却在告诉政府应该怎样管理整个AI产业。两个人当然都可以认为自己是在为人类负责。历史上真正危险的权力扩张，却从来不要求掌权者首先承认“我是坏人”。 恰恰相反，最容易获得公众授权的理由永远是：事情太危险了，你必须把更多权力交给我们。 因此，不必证明奥巴马有什么秘密阴谋，也不必证明阿莫代伊是野心家。只需要问一个制度问题： 如果他们全部得偿所愿——最强AI集中在少数“负责任”企业手中，政府取得前所未有的监管权，美国再把这套制度推广到世界——二十年以后，假如掌握这套机器的人不再是今天这些自称负责任的人，谁还能把权力拿回来？ 如果回答只是“相信民主制度会纠错”，那未免太便宜。
谁来制衡掌握AI的“好人”？
谁来制衡掌握AI的“好人”？