在人工智能计算机芯片的广阔前景中，服务于“边缘”市场的产品，包括无人机、物联网设备、电话和低功耗服务器环境，为供应商提供了肥沃的土壤，成为较少的供应商之一。 与数据中心技术相比，市场上的发达地区。
正如 ZDNet 今年早些时候报道的那样，数十家初创公司已经获得了数千万美元的风险投资，用于为移动和其他嵌入式计算用途中的 AI 制造芯片。 由于边缘市场不太稳定，供应商可以采用多种不同的方式来解决这个问题。
周二，AI 芯片初创公司 SiMa dot ai 正式推出了其所谓的 MLSoC，这是一种片上系统，用于以更低的功耗加速神经网络。 该公司争辩说，已经开始向客户发货的新芯片是唯一“专门构建”的部分，用于处理高度重视计算机视觉任务的任务，例如检测场景中物体的存在。
SiMa.ai 的联合创始人兼首席执行官 Krishna Rangasayee 在接受 ZDNet 采访时表示：“每个人都在构建机器学习加速器，而且仅此而已。”
Rangasayee 表示，“嵌入式边缘市场与云计算的不同之处在于，人们正在寻找端到端的应用程序问题解决方案”，而不仅仅是用于机器学习功能的芯片。
“他们正在寻找一种片上系统体验，您可以在这种体验中在芯片上运行整个应用程序。”
Rangasayee 表示，竞争对手仅通过执行机器学习的神经网络功能来“处理一小部分问题”。
“每个人都需要 ML，但它只是整个问题的一部分，而不是整个问题，”Rangasayee 说。
SiMa.ai 芯片采用台积电的 16 纳米制造工艺，将多个部件制成单个芯片。 这些部件包括一个机器学习加速器和代号为“Mosaic”的代号，专门用于作为神经网络处理基础的矩阵乘法。
板载还有一个 ARM A65 处理器内核，通常在汽车中使用，以及各种功能单元以帮助完成视觉应用的特定任务，包括一个独立的计算机视觉处理器、一个视频编码器和一个解码器、4 兆字节的 on- 芯片内存，以及大量的通信和内存访问芯片，包括 32 位 LPDDR4 内存电路的接口。
芯片硬件随附 SiMa.ai 软件，可以更轻松地调整性能并处理更多工作负载。
有关 MLSoC 的更多详细信息，请访问 SiMa.ai 的网站。
SiMa.ai 的产品面向各种市场，包括机器人、无人机、自动驾驶汽车、工业自动化以及医疗保健和政府市场的应用。
Rangasayee 说，政府市场特别迅速地采用了这项技术。
“我很惊讶政府部门的发展速度如此之快，”他说。 Rangasayee 指出，典型的印象是政府需要五到七年的时间来采购新技术，但事情发生的速度比这快得多。 政府特别感兴趣的应用是使用 ML 车载坦克和搜索简易爆炸装置的探测器。 他说，卫星也是一个很有前途的应用。
“这是一个数万亿美元的市场，仍在使用几十年前的技术，”Rangasayee 观察到各种民用和政府应用。
Rangasayee 说，当今许多用于自主飞行器和其他应用程序的计算机视觉系统都在使用“传统的加载-存储架构，冯·诺依曼架构”，指的是市场上大多数计算机芯片的基本设计。
他说，用于机器学习和计算机的芯片在如何将计算带宽和数据相互结合方面没有进步。
另外：为了扩展 AI 任务，Xilinx 的入门套件几乎不需要编程
“我们有一个独特的 ML SoC，第一个理解 ML 的片上系统，因此人们可以在一个单一的架构中进行经典的计算机视觉，并解决遗留问题，除了 ML 之外，”Rangasayee 说。
SiMa.ai 已经从共同基金巨头 Fidelity 的投资顾问 Fidelity Management & Research 和 Dell Technologies Capital 等公司的多轮融资中获得了 1.5 亿美元的风险投资。 资深芯片行业内幕人士、芯片设计软件公司 Cadence Design 的前负责人 Lip-Bu Tan 是 SiMa.ai 的董事会成员。
“司马”一词是梵文“边”字的音译。
除了 Rangasayee 之外，Xilinx 前 CEO Moshe Gavrielov 也是该公司的董事长。
Edge AI 一词已经成为一个笼统的术语，指的是不在数据中心内的一切，尽管它可能包括数据中心边缘的服务器。 它的范围从智能手机到使用谷歌移动 AI 的 TinyML 框架消耗微瓦功率的嵌入式设备。
SiMa.ai 与众多移动和嵌入式竞争对手展开竞争。 在边缘市场，竞争对手包括 AMD（现在是 Xilinx 的母公司）、知识产权巨头 ARM、高通、英特尔和 Nvidia。 然而，这些公司传统上一直专注于以更大功率运行的更大芯片，大约为几十瓦。
SiMa.ai 芯片拥有其创造者所说的市场上任何芯片中功耗预算最低的芯片之一，可以完成典型任务，例如 ResNet-50，这是处理 ImageNet 标签图片任务的最常见神经网络。
该公司表示，该部件每秒可执行 50 万亿次操作或“万亿次操作”，功耗为每秒每瓦 10 万亿次操作。 这意味着该部件在执行神经网络任务时将消耗 5 瓦，但在使用其他功能时可能会更高。
这种仅几瓦的芯片使 SiMa.ai 成为众多初创公司的一员，包括 Hailo Technologies、Mythic、AlphaICs、Recogni、EdgeCortix、Flex Logix、Roviero、BrainChip、Syntiant、Untether AI、Expedera、Deep AI 、安第斯山脉和 Plumerai，仅举几个最明显的例子。
Rangasayee 说，其中唯一“在我们视线范围内”的公司是 Hailo 和 Mythic。 但是，“我们最大的区别在于他们只构建 ML 加速器。我们正在构建完整的 ML SoC。”
得益于 SiMai.ai 在 ARM 内核和专用图像电路中的构建以及 Mosaic 神经网络代码，客户将能够更好地运行现有程序，同时添加来自 PyTorch 和 TensorFlow 等流行 ML 框架的代码。
另外：为了测量超低功耗 AI，MLPerf 获得了 TinyML 基准
“对我来说有趣的是，对支持传统的专用平台的被压抑的需求非常高，”Rangasayee 告诉 ZDNet。 “他们几乎从第一天起就可以运行他们的应用程序——这是我们拥有的巨大优势。”
“我们是第一家破解解决任何计算机视觉问题代码的公司，因为我们不关心代码库，它可以是 C++、Python 或任何 ML 框架，”Rangasayee 解释道。 他说，对计划的广泛支持使公司倾向于将自己视为芯片的“埃利斯岛”。 “把你的穷人给我们，把你的累人给我们……我们会把他们全部拿走！” 他说。
Rangasayee 断言，这种广泛的支持意味着该公司拥有数万名客户的更大受众，而不仅仅是一个利基市场。
根据 Rangasayee 的说法，该芯片的另一优势在于它的性能是任何同类产品的十倍。
Rangasayee 说，“我们的客户关心的是每秒每瓦的帧数”，即每瓦功率的图像帧数。 “我们至少是任何人的 10 [倍]，”他说。 “我们日复一日地向每一位客户展示这一点。”
该公司尚未根据广泛引用的 MLPerf 基准分数提供基准规格，但 Rangasayee 表示该公司打算在未来进一步这样做。
“现在，首要任务是赚钱，”Rangasayee 说。 “我们是一家非常小的公司”，拥有 120 名员工。 “我们不能单独派出一个团队来做 MLPerf。”
“你可以围绕基准做很多调整，但人们关心端到端的性能，而不仅仅是 MLPerf 基准。
“是的，我们有数字，是的，我们比任何人都做得更好，但与此同时，我们不想花时间建立基准。我们只想解决客户问题。”
尽管周二的公告是关于芯片的，但 SiMa.ai 特别强调其软件功能，包括所谓的“新颖的编译器优化技术”。 该软件可以支持“广泛的框架”，包括 TensorFlow、PyTorch 和 ONNX，这是机器学习用来开发和训练神经网络的主要编程库。
该公司表示，其软件允许用户“运行任何计算机视觉应用程序、任何网络、任何模型、任何框架、任何传感器、任何分辨率”。
Rangasayee 说：“你可以在一个应用程序上花费很多时间，但你如何让成千上万的客户通过终点线？这才是真正更难的问题。”
Rangasayee 说，为实现这一目标，该公司的软件工作包括两方面：“前端”的编译器创新和“后端”的自动化。
编译器将支持“120 多种交互”，这提供了将更多种类的应用程序带入芯片的“灵活性和可扩展性”，这比通常的情况要多。
该软件的后端部分使用自动化来允许更多应用程序“映射到您的性能”，而不是“等待几个月的结果”。
Rangasayee 说：“大多数公司都将人员置于循环中以获得正确的性能。” “我们知道我们必须以一种聪明的方式实现自动化，以便在几分钟内获得更好的体验。”
该软件创新旨在利用 MLSoC“按钮”，他说，因为“每个人都想要 ML；没有人想要学习曲线。” Rangasayee 的前雇主 Xilinx 也采用了这种方法，试图使其嵌入式 AI 芯片更加用户友好。
“我在以前的公司了解到软件的重要性。这真的取决于我们软件的实力，”Rangasayee 说。 “是的，我们的硅很棒，我们为此感到非常自豪，没有硅你就不是一家公司，”他说。
“但对我来说，这是必要的功能，而不是足够的功能；足够的功能是提供轻松的 ML 体验。”
