OpenAI 的兵荒马乱时刻,六名成员董事会将决定“我们何时实现 AGI”

显然OpenAI现在正在经历一个兵荒马乱的时局。

经历了几轮宫斗剧式的反转之后,剧情进展到了一边是微软官宣Sam Altman加盟微软,一边是OpenAI董事会遭逼宫,逾九成员工要求恢复Altman职位。

OpenAI骑虎难下,微软CEO倒是颇为敞亮的表示,对奥特曼重返OpenAI持开放态度。电视剧远没有结束的节奏,我们也坐等围观。

我们今天先不吃这个瓜,而是将视野放远,探寻这家机构关于“何时实现 AGI”的宏大命题。

据 OpenAI 称,其非营利性董事会的六名成员将决定公司何时“实现AGI ”——它定义为“一个高度自治的系统,在最具经济价值的工作中胜过人类”。由于营利性机构“在法律上有义务追求非营利组织的使命”,一旦董事会决定达到 AGI(通用人工智能),这样的系统将“被排除在与微软的 IP 许可和其他商业条款之外”。

OpenAI董事会成员

OpenAI 由 OpenAI Nonprofit 董事会管理,该董事会由 OpenAI Global, LLC 员工 Greg Brockman(董事长兼总裁)、Ilya Sutskever(首席科学家)和 Sam Altman(首席执行官)以及非员工 Adam D\’Angelo、Tasha 组成麦考利,海伦·托纳。

但由于通用人工智能的定义还远未达成一致,那么让六个人来决定是否实现通用人工智能对于 OpenAI 乃至整个世界来说意味着什么?未来可能做出的决定的时机和背景对其最大投资者微软意味着什么?

营利性部门须遵守 OpenAI 的非营利使命

OpenAI 开发者倡导者 Logan Kilpatrick 周末在 X 上的一个帖子中包含了这些信息。基尔帕特里克是在回应微软总裁布拉德·史密斯的评论,他在最近与 Meta 首席科学家 Yann LeCun 举行的一次小组会议上试图将 OpenAI 描述为更值得信赖,因为它的“非营利”地位——尽管《华尔街日报》最近报道称OpenAI 正在寻求出售现有股票的新估值高达 900 亿美元。

史密斯 说 :“Meta 由股东拥有。OpenAI 归一家非营利组织所有。您对哪一个更有信心?从一家完全由一个人控制的非营利性或营利性公司获得你的技术?”

Kilpatrick 在他的帖子中引用了OpenAI 网站上的“ 我们的结构”页面,该页面提供了有关 OpenAI 复杂的非营利/上限利润结构的详细信息。

OpenAI 的兵荒马乱时刻,六名成员董事会将决定“我们何时实现 AGI”

根据该页面,OpenAI 的营利性子公司由 OpenAI 非营利组织(在特拉华州注册)“完全控制”。虽然营利性子公司 OpenAI Global, LLC 似乎是从有限合伙企业 OpenAI LP 转变而来的,该公司之前于 2019 年宣布,即在最初的 OpenAI 非营利组织 成立 大约三年后,“被允许赚取和分配利润, ” 它服从于非营利组织的使命。

听起来,一旦 OpenAI 实现了其既定的实现 AGI 的使命,微软就会脱离困境——尽管在上周的 OpenAI 开发日上,OpenAI 首席执行官萨姆·奥尔特曼 (Sam Altman) 告诉微软首席执行官萨蒂亚·纳德拉 (Satya Nadella),“ 我很高兴我们能够共同构建 AGI。”

在英国《金融时报》对 Altman 的 最新采访中,Altman 表示 OpenAI 与微软的合作关系“运作得非常好”,他预计“随着时间的推移,将筹集到更多资金”。当被问及微软是否会继续进一步投资时,奥尔特曼说:“我希望如此……还有很长的路要走,这里和 AGI 之间还有大量的计算需要构建。培训费用是巨大的。”

OpenAI 的结构细节从一开始就 表示 ,微软“接受了我们的上限股权收购要约以及我们将 AGI 技术和治理留给非营利组织和其他人类的请求”。

OpenAI 发言人告诉 VentureBeat,“OpenAI 的使命是构建对每个人都安全且有益的 AGI。我们的董事会负责管理公司,并咨询外部专家和利益相关者的不同观点,以帮助其思考和决策。我们根据董事会成员的技能、经验以及对人工智能技术、政策和安全的看法来提名和任命董事会成员。”

非营利组织董事会成员与有效利他主义有联系

目前,OpenAI 非营利组织董事会由董事长兼总裁 Greg Brockman、首席科学家 Ilya Sutskever 和首席执行官 Sam Altman,以及非员工 Adam D\’Angelo、Tasha McCauley 和 Helen Toner 组成。

Quora 首席执行官D\’Angelo 以及科技企业家 McCauley 和乔治敦大学 安全与新兴技术中心 战略总监 Honer都与 有效利他主义 运动有关,但该运动 受到了批评。 今年早些时候,该公司因其与 Sam Bankman-Fried 和 FTX 的关系,以及 其对人工智能安全的“危险”态度 而受到批评。而 OpenAI 也与 EA 有着长期的联系 :例如,2017 年 3 月,OpenAI 获得了 Open Philanthropy 的 3000 万美元资助,该项目由 Effect of Altruists 资助。据报道,领导 OpenAI 超级联盟团队的Jan Leike 也认同 EA 运动。

OpenAI 发言人表示,“我们的董事会成员都不是有效的利他主义者”,并补充说“非员工董事会成员不是有效的利他主义者;他们与 EA 社区的互动主要集中在与 AI 安全相关的主题上,或者提供未密切参与该团体的人员的观点。”

董事会的 AGI 决策“不同寻常”

为科技领域的初创公司和新兴公司提供外包总法律顾问和法律服务的苏西·富尔顿表示,虽然在许多情况下,让董事会做出这一AGI决定是“不寻常的”,但OpenAI的非营利性董事会的受托责任在于支持其使命,即提供“广泛受益的安全AGI”。

“他们认为非营利性董事会的受益者是人类,而营利性董事会则为其投资者服务,”她解释道。“他们试图建立的另一个保障措施是让董事会保持多数独立,其中大多数成员在开放人工智能中没有股权。”

这是建立实体结构和董事会来做出这一关键决定的正确方法吗?“在董事会决定之前我们可能不知道答案,”富尔顿说。

芝加哥大学法学院教授安东尼·凯西 (Anthony Casey) 同意让董事会决定像 AGI 这样具体的操作是“不寻常的”,但他认为不存在任何法律障碍。

他说:“明确确定必须在董事会层面提出的某些问题应该没什么问题。”事实上,如果一个问题足够重要,公司法一般会规定董事有义务对该问题进行监督,特别是“关键任务问题”。

专注于 OpenAI 的 AGI 使命,是否可以证明他们的主张是合法的?

然而,并非所有专家都相信 通用人工智能很快就会到来,而有些人甚至质疑它是否可能。

人工智能和数字政策中心主席 Merve Hickok 表示,该中心 于 3 月份 向 FTC 提出索赔 ,称该机构应该调查 OpenAI 并命令该公司“停止发布 GPT 模型,直到建立必要的保障措施”。作为一个组织,“确实遭受观点多样性的困扰。” 她解释说,他们对通用人工智能的关注“忽视了人工智能模型和工具当前的影响”。

然而,她不同意任何关于 OpenAI 董事会规模或多样性的争论,因为谁有权决定 OpenAI 是否已经“实现”了 AGI,她表示这分散了人们对他们的基本使命和主张是否合法的讨论的注意力。

她说:“这将转移焦点,并在事实上使通用人工智能成为可能的说法合法化。”

但是,OpenAI缺乏对AGI的明确定义–或者甚至是否会有一个AGI–回避了这个问题吗?例如,OpenAI在2023年2月发表的一篇博客文章中写道:“第一个AGI将只是智能连续体上的一个点。”在2023年1月接受LessWrong采访时,首席执行官萨姆·奥尔特曼表示:“我希望看到的未来是人工智能的超级民主化,世界上有几个AGI可以帮助允许多种观点,而不会让任何人变得太强大。”

OpenAI 的 AGI 使命,对微软来说真正意味着什么

尽管如此,很难说 OpenAI 对 AGI 的模糊定义对微软来说真正意味着什么,尤其是在没有两家公司之间运营协议的完整细节的情况下。 例如,Casey 表示,如果 OpenAI 真诚地履行其非营利使命,OpenAI 的结构以及与微软的关系可能会引发一些“大争议”。

他指出:“有一些非营利组织以营利为目的。”其中最著名的是 好时信托基金 。“但他们完全拥有营利性。在那种情况下,这很容易,因为没有小股东反对,”他解释道。“但在这里,微软的营利性利益可能会与控股实体的非营利性利益直接发生冲突。”

他补充说,利润上限很容易实施,但“困难的是,如果实现利润最大化与非营利组织的使命相冲突怎么办?” 凯西补充说,“默认规则会规定,实现利润是首要任务,管理者必须把它放在第一位(根据商业判断规则,有广泛的自由裁量权)。”

本文地址:http://cknow.cn/archives/63726

以上内容源自互联网,由百科助手整理汇总,其目的在于收集传播生活技巧,行业技能,本网站不对其真实性、可靠性承担任何法律责任。特此声明!

如发现本站文章存在版权问题,烦请提供版权疑问、侵权链接、联系方式等信息发邮件至candieraddenipc92@gmail.com,我们将及时沟通与处理。