Solution

高性价比Tenstorrent AI集群

Moreh围绕Tenstorrent的网络集成加速器设计和构建可扩展的AI集群——为推理优化并支持训练——从集群架构和网络到全栈软件和持续支持。

我们提供什么

芯片

Tenstorrent的Wormhole处理器是AI集群的轻量高效构建模块。它提供164 TFLOPS的BLOCKFP8（BF16）性能和12 GB内存。Wormhole的真正实力在众多芯片组成集群时得以体现。

服务器

Tenstorrent的Galaxy服务器配备32个Wormhole处理器，提供相当于典型8-GPU服务器的性能。

网络

每个Wormhole处理器配备3.2 Tbps以太网接口，无需交换机即可形成直接的chip-to-chip torus网络——大规模高效处理AI通信模式。

软件

Moreh的全栈软件涵盖Tenstorrent硬件上的推理和训练——从第一天起即可投入生产。

单节点推理引擎

集群规模推理

微调与训练

即将推出

我们采购和供应Tenstorrent Wormhole芯片和Galaxy服务器，为您处理采购环节。

从机架布局和电力规划到Torus网络拓扑，我们设计并搭建集群。

Moreh vLLM和MoAI Inference Framework完成部署，并针对您的特定工作负载进行优化。

持续提供Tenstorrent相关问题、性能调优和软件更新的支持。

通过与Tenstorrent的合作伙伴关系和3年的联合开发，我们提供从硬件到软件的完全集成解决方案——可高效运行各种AI工作负载。

从单台Galaxy服务器到完整集群——推理和训练所需的硬件、软件及一切中间环节，我们全部为您处理。