您的位置:首页>智东西 >

微软被曝解散整个AI风险评估团队|新视野

来源:传感大会  

3月14日消息,美国当地时间周一,微软被曝解散了其整个AI风险评估团队。据悉,这个团队正式名称为AI道德与社会团队,其主要职能在于指导微软在AI方面的创新,从而产生符合道德标准、负责任以及可持续的结果。最近,该团队始终在努力评估微软将OpenAI技术整合到其产品中可能存在的风险。

多位微软离职和在职员工表示,此举导致微软将再也没有专门的团队来确保其AI原则与产品设计紧密结合,而目前该公司正在引领潮流,努力让AI工具成为主流。不过,微软仍然保留着名为负责任AI办公室(ORA)的团队,其任务是制定规则来管理公司的AI计划。微软表示,尽管最近进行了裁员,但其在责任工作方面的整体投资始终在增加。

微软在一份声明中表示:“微软致力于以安全、负责任的态度开发AI产品和体验,并通过投资于优先考虑这些因素的人员、流程和合作伙伴来实现该目标。在过去的六年里,我们增加了产品团队和ORA的人员数量,他们与微软的所有人一起,负责确保我们将AI原则付诸实践。我们感谢道德与社会团队所做的开创性工作,帮助我们继续完成负责任AI之旅。”


(相关资料图)

微软员工透露,在确保公司产品和服务符合负责任AI原则方面,道德和社会团队发挥了关键作用。一位离职员工表示:“人们看到ORA提出的原则却不知道如何运用,而我们的工作就是向他们展示,并在缺乏规则的领域制定规则。”

近年来,该团队设计了名为《Judgment Call》的角色扮演游戏,帮助设计师设想AI可能带来的潜在危害,并在产品开发过程中进行讨论。道德和社会团队在2020年达到了最大规模,当时有大约30名员工,包括工程师、设计师和哲学家。但在去年的重组过程中,该团队被削减至只剩7人。

在重组后的一次团队会议上,微软AI业务副总裁约翰·蒙哥马利(John Montgomery)表示,公司管理层已经指示他们迅速行动。据悉,蒙哥马利当时说:“来自首席技术官凯文·斯科特(Kevin Scott)和首席执行官萨蒂亚·纳德拉(Satya Nadella)的压力非常大,他们都要求加速将OpenAI模型和后续模型送到客户手中。”

蒙哥马利说,由于这种压力,道德和社会团队中的许多人将被转移到公司的其他业务。当时,蒙哥马利称该团队不会被淘汰,而是需要将“更多精力放在构建服务和软件的单个产品团队上”。随后,该团队多数成员都被调到其他部门,剩余人员则因为人员不足,促使许多雄心勃勃的计划再也难以实施。

大约五个月后,剩下的员工被告知整个团队最终被解散。一名员工表示,此举在AI产品的用户体验和整体设计方面留下了巨大漏洞。他们解释说:“最糟糕的是,我们这样做让企业面临风险,人类陷入风险之中。”

道德与社会团队的成员表示,他们通常会努力支持产品开发。但随着微软开始专注于比竞争对手更快地推出AI工具,公司管理层对该团队所专注的那种长期考虑不再那么感兴趣。

就在道德与社会团队被解散之际,其他人正将注意力放在预测微软向全球观众发布OpenAI支持的AI工具时产生的影响。在去年的备忘录中,道德与社会团队详细说明了与必应图像创建器相关的风险,该工具使用OpenAI的Dall-E系统根据文本提示创建图像。这款图像工具于10月份在几个国家推出,使其成为微软与OpenAI的首批公开合作之一。

虽然文字转图像的技术已经被证明非常受欢迎,但微软的研究人员准确地预测到,它也可能威胁到艺术家的生计,因为它允许任何人轻松复制艺术家的创作风格。此外,OpenAI更新了其服务条款,赋予用户“使用Dall-E创建图像的完全所有权”,这让微软道德和社会团队感到担忧。 (小小)

关键词:

最新文章