就在OpenAI宣布成立新的安全委员会几天后,前董事会成员Helen Toner和Tasha McCauley公开指责首席执行官Sam Altman将利润置于负责任的人工智能开发之上,向董事会隐瞒关键发展,并在公司中营造有毒环境。
但OpenAI现任董事会成员布雷特·泰勒和拉里·萨默斯今天对奥特曼进行了有力的辩护,反驳了这些指控,并表示托纳和麦考利正试图重新审理一个已结案的案件。这一争论在《经济学人》上发表的两篇专栏文章中展开。
前董事会成员首先被解雇,认为OpenAI董事会无法控制其首席执行官。
“去年11月,为了挽救这种自律结构,OpenAI董事会解雇了其首席执行官,”托纳和麦考利在5月26日写道,他们在去年奥特曼的罢免中发挥了作用。“在OpenAI的具体案例中,鉴于董事会有责任提供独立监督并保护公司的公共利益使命,我们支持董事会的行动。”
布雷特·泰勒(Bret Taylor)和拉里·萨默斯(Larry Summers)在公开的回应中为奥特曼辩护,驳回了这些指控,并坚称奥特曼致力于安全和治理。
他们写道:“我们不接受托纳女士和麦考利女士关于OpenAI事件的说法。我们感到遗憾的是,托纳女士继续重新审视威尔默海尔领导的审查所彻底审查的问题,而不是继续前进。”
虽然Toner和McCauley没有引用该公司新成立的安全和安保委员会的话,但他们在信中表达了对OpenAI无法可靠地监管自己及其首席执行官的担忧。
“根据我们的经验,我们认为自我治理无法可靠地承受利润激励的压力,”他们写道,“我们还认为,自他重返公司以来的事态发展——包括他重返董事会和高级安全人才的离职——对OpenAI的自治实验来说是个坏兆头。”
前董事会成员表示,奥特曼的“长期行为模式”使公司董事会无法正确监督“关键决策和内部安全协议”。然而,奥特曼目前的同事指出了公司委托对冲突进行的独立审查的结论。
他们写道:“审查结果否定了任何形式的人工智能安全问题都需要更换奥特曼的说法。事实上,WilmerHale发现,之前董事会的决定并不是出于对产品安全或安保、开发速度、OpenAI的财务状况或其对投资者、客户或商业合作伙伴的声明的担忧。”
也许更麻烦的是,托纳和麦考利还指责奥特曼培养了一种有毒的公司文化。
“多位高级领导人私下与董事会表达了严重关切,称他们认为奥特曼培养了‘一种有毒的撒谎文化’,并从事了‘可以被定性为心理虐待的行为’。”
但泰勒和萨默斯驳斥了他们的说法,称奥特曼受到员工的高度尊重。
他们说:“在与该公司近六个月的几乎每天的接触中,我们发现奥特曼先生在所有相关问题上都非常坦率,并始终与他的管理团队保持一致。”。
泰勒和萨默斯还表示,奥特曼致力于与政府合作,以降低人工智能开发的风险。
公众的来来回回发生在OpenAI的一个动荡时代,这个时代始于他短暂的下台。就在本月,其前联盟负责人在对奥特曼提出类似指控后加入了竞争对手Antropic公司。在未能获得女演员斯嘉丽·约翰逊的同意后,该公司不得不退回一位与她惊人相似的配音模特。该公司解散了其超级结盟团队,据透露,滥用NDA阻止了前员工批评该公司。
OpenAI还与国防部达成协议,将GPT技术用于军事应用。与此同时,据报道,OpenAI的主要投资者微软也做出了涉及ChatGPT的类似安排。
Toner和McCauley的说法似乎与离开公司的前OpenAI研究人员Jan Leike的说法一致,他们说“在过去几年里,(OpenAI的)安全文化和流程已经退居闪亮产品的次要地位”,他的调整团队正在“逆风而行”
Taylor和Summers在他们的专栏中部分解决了这些问题,他们引用了新的安全委员会及其“就所有OpenAI项目的关键安全决策向全体董事会提出建议”的责任
托纳最近升级了她对奥特曼缺乏透明度的说法。
本周早些时候,她在TED AI Show播客上透露:“为了了解我所说的事情,当ChatGPT于2022年11月发布时,董事会没有事先得到通知。我们在推特上了解了ChatGPT。”
她还表示,OpenAI董事会并不知道奥特曼拥有OpenAI创业基金,尽管他声称自己在OpenAI中缺乏财务股份。该基金在董事会不知情的情况下,将从微软等合作伙伴那里筹集的数百万美元投资于其他业务。奥特曼对该基金的所有权于4月终止。
OpenAI没有回应Decrypt的置评请求。
由Ryan Ozawa编辑。