根据人工智能公司OpenAI12月18日在其官网上发布的计划,该公司制定了一个框架,以解决最先进模型的安全问题,其中包括允许董事会推翻安全决策。
《路透社》报道,根据官网计划,微软支援的OpenAI只有在网络安全和核威胁等特定领域被认定安全的情况下,才会部署其最新技术。
该公司正设立一个谘询小组,以审查安全报告并将其发送给公司高层和董事会。在高阶主管做出相关决定后,董事会有权推翻这些决定。
自1年前ChatGPT问世以来,人工智能的潜在危险一直是研究人员和大众最关心的问题。生成式人工智能(Generative AI)技术让人眼花撩乱,但其传播假消息和操纵的潜力也引发安全担忧。
今年3月,美国富豪马斯克(Elon Musk)以及一群人工智能专家、业界高管在一封公开信中表示,考量对社会及人类的潜在风险,呼吁未来6个月先暂停对优于OpenAI语言模型GPT-4的人工智能系统进行训练。
路透社/易普索(Reuters/Ipsos)5月的一项民意调查发现,超过2/3的美国人担心人工智能可能带来负面影响,61%的人认为它可能威胁文明。