Solution
Cluster AI Tenstorrent tiết kiệm chi phí
Moreh thiết kế và xây dựng cluster AI có thể mở rộng dựa trên bộ tăng tốc tích hợp mạng của Tenstorrent — tối ưu cho suy luận và sẵn sàng cho huấn luyện — từ kiến trúc cluster và mạng đến phần mềm toàn diện và hỗ trợ liên tục.
Chúng tôi cung cấp
Chip
Bộ xử lý Wormhole
Bộ xử lý Wormhole của Tenstorrent là khối xây dựng nhẹ và hiệu quả cho cluster AI. Nó mang lại hiệu năng 164 TFLOPS BLOCKFP8 (BF16) và 12 GB bộ nhớ. Sức mạnh thực sự của Wormhole phát huy khi nhiều chip kết hợp thành một cluster.
Tìm hiểu thêm (tenstorrent.com) ›Server
Server Galaxy
Server Galaxy của Tenstorrent được trang bị 32 bộ xử lý Wormhole, mang lại hiệu năng tương đương một server 8-GPU thông thường.
Tìm hiểu thêm (tenstorrent.com) ›Mạng
Mạng Torus Chip-to-Chip không cần switch
Mỗi bộ xử lý Wormhole có giao diện Ethernet 3.2 Tbps, tạo thành mạng torus chip-to-chip trực tiếp không cần switch — xử lý hiệu quả các mẫu truyền thông AI ở quy mô lớn.
Phần mềm
Phần mềm AI Moreh
Phần mềm toàn diện của Moreh hỗ trợ cả suy luận và huấn luyện trên phần cứng Tenstorrent — sẵn sàng cho sản xuất ngay từ ngày đầu.
Moreh vLLM
Engine suy luận đơn node
- •Xây dựng cho chip Tenstorrent Wormhole
- •Hỗ trợ mô hình MoE SOTA bao gồm DeepSeek, GPT-OSS và Qwen
- •Hơn 450 phép toán đã tối ưu
MoAI Inference Framework
Suy luận quy mô cluster
- •Mở rộng trên nhiều server Galaxy
- •Lập lịch và phân tách nhận biết torus
- •API tương thích OpenAI cho cluster
MoAI Training Framework
Fine-tuning & Huấn luyện
- •Fine-tuning và huấn luyện trên cluster TT
- •Tương thích PyTorch, hơn 450 phép toán
- •Cùng cluster cho suy luận và huấn luyện
Sắp ra mắt
Hỗ trợ toàn diện
Cung cấp phần cứng
Chúng tôi tìm nguồn và cung cấp chip Tenstorrent Wormhole và server Galaxy, xử lý quy trình mua sắm thay bạn.
Xây dựng cluster
Chúng tôi thiết kế và xây dựng cluster — từ bố trí rack và quy hoạch điện đến topo mạng torus.
Triển khai phần mềm
Moreh vLLM và MoAI Inference Framework được triển khai và tối ưu cho khối lượng công việc cụ thể của bạn.
Hỗ trợ kỹ thuật
Hỗ trợ liên tục cho các vấn đề liên quan đến Tenstorrent, tinh chỉnh hiệu năng và cập nhật phần mềm.
Thông qua quan hệ đối tác với Tenstorrent và 3 năm phát triển chung, chúng tôi cung cấp giải pháp tích hợp hoàn chỉnh từ phần cứng đến phần mềm — sẵn sàng chạy hiệu quả nhiều loại khối lượng công việc AI.
Thông cáo báo chí về quan hệ đối tác chiến lược ›Sẵn sàng triển khai Tenstorrent AI quy mô lớn?
Từ một server Galaxy đến toàn cluster — cho suy luận và huấn luyện, chúng tôi lo phần cứng, phần mềm và mọi thứ ở giữa.
Liên hệ bộ phận kinh doanh