Facebook AI 的研究人员与开发人员的友好战斗发现 PyTorch 获胜

2023-06-11 0 988

Facebook AI 的研究人员与开发人员的友好战斗发现 PyTorch 获胜

Facebook 的 AI 团队正在将其所有机器学习模型部署转移到 PyTorch 框架,并在开发框架上标准化,该公司周三在今年虚拟举行的 F8 年度开发者活动中表示。

AI 团队的 CTO Mike Schroepfer 在新闻发布会上说:“我们现在正处于标准化 PyTorch 上所有工作负载的阶段。”

根据 Schroepfer 的说法,在一种研究人员与开发人员的较量中,只有在 Schroepfer 和团队接受了 Facebook AI 研究负责人 Yann LeCun 的想法后,才会做出这个决定。

Schroepfer 解释说:“我与 Yann LeCun 进行了这场激烈的、拖延的辩论很长一段时间。”

“也许人工智能就像,我用 3D 打印机制作原型,然后一旦我们弄清楚我们想要什么,我们就把它浇铸成混凝土,所以我们有一个完全独立的生产工具链”出于性能原因。 另一方面,LeCun 坚持认为一种工具可以同时用于研究和生产。

分歧与 Facebook 在 2016 年推出的 PyTorch 的历史有关。

PyTorch 是一个机器学习函数库,部分使用 Python 编程语言编写,但包含大量 C++。 它改编自现有框架 Torch,作为 Theano、Caffe 和 Google 的 TensorFlow 等框架的替代方案。 该软件目前处于 1.8.1 的稳定版本中。

Schroepfer 指出,PyTorch 的主要价值传统上是用户体验,以便轻松构建和调试。 这赢得了 LeCun 等研究人员的忠诚度,他们希望快速修改神经网络、测试并再次修改。 然而,它比许多专门为最高性能而构建的编程工具慢。

因此,尽管 Facebook 具有研究价值,但它一直在混合使用研究和生产框架,Schroepfer 说,其中 Caffe 2 是公司内部使用第二广泛的框架。 他说,还使用了各种“特定领域的框架”。

Schroepfer 说,事实证明,尽管 PyTorch 并不总是最快的库,但“生产工程师希望使用所有最新的研究成果。” 他解释说,首先,研究人员正在解决越来越多的问题。

Schroepfer 指出,用于语音识别或自然语言处理的大型 AI 模型“通常建立在 PyTorch 之上”,不仅在 Facebook,在其他公司和学术界也是如此。 “他们通常在 PyTorch 中有 GitHub 存储库。”

目前,Facebook 93% 的 AI 模型都是使用 PyTorch 部署的。

根据 Schroepfer 的说法,标准化的目的是通过将公司的大部分工作整合到一个库中,从而加快 Facebook 在各种应用程序中的 AI 开发和部署。

Facebook 的工程师“现在触手可及的是这个最先进模型的工具箱,我可以更快地将它们投入生产,因为它们建立在我用来构建和发布网站的相同工具链上 十亿用户规模,”他说。

“当你将这种整合到一个单一的工具中时,你所看到的只是人们完成工作和锻炼的能力的巨大转变。”

Schroepfer 补充道,“随着行业对此类工具的进一步标准化,这将进一步加快我们的能力,不仅可以撰写有关这些东西的研究论文,而且可以将这些工具推向世界以帮助真实的人。”

在幕后,Schroepfer 和团队不得不做一些事情来帮助 PyTorch。

例如,他们运行一个名为 TorchScript 的程序,该程序允许进行运行时优化。 “让我在 Python 中随心所欲地编写代码,但如果我正确地标记它,我们就可以在后台运行这个非常酷的优化器,以提高它的效率。”

“我们慢慢缩小了这里的差距,”他谈到 PyTorch 被放大时说。

Schroepfer 说:“我对结果感到惊讶,这个以易用性、实验性和敏捷性开始的工具找到了进入生产的方式。”

“扬恩是对的,我错了,”他说。

当被问及 Facebook AI 是否会因标准化而失去多样性的好处时,Schroepfer 澄清说,研究仍然可以发挥它想要的所有新事物。

“我们的研究团队有很大的实验自由,他们总是在试验新技术,这就是 PyTorch 最初的诞生方式,”他说。

申明:本文由第三方发布,内容仅代表作者观点,与本网站无关。对本文以及其中全部或者部分内容的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。本网发布或转载文章出于传递更多信息之目的,并不意味着赞同其观点或证实其描述,也不代表本网对其真实性负责。

七爪网 行业资讯 Facebook AI 的研究人员与开发人员的友好战斗发现 PyTorch 获胜 https://www.7claw.com/57496.html

相关文章

发表评论
暂无评论
官方客服团队

为您解决烦忧 - 24小时在线 专业服务