Together AI

Suy diễn không máy chủ

Thay đổi theo mô hình và số lượng token

Giá tính theo 1 triệu token (đầu vào và đầu ra cho Trò chuyện, Đa phương thức, Ngôn ngữ, Mã; chỉ đầu vào cho Mô hình Nhúng; kích thước ảnh/bước cho các mô hình Hình ảnh). Suy diễn theo lô có sẵn với mức giảm giá giới thiệu 50%. Giá mô hình cụ thể dao động từ $0.06 đến $7.00 cho mỗi 1 triệu token tùy thuộc vào kích thước và loại mô hình.

Các Điểm đầu cuối dành riêng

Thay đổi theo loại GPU, tính theo phút/giờ

Triển khai các mô hình trên các điểm đầu cuối GPU tùy chỉnh với thanh toán theo phút. Hỗ trợ nhiều GPU NVIDIA như RTX-6000, L40, A100, H100, H200. Giá dao động từ $0.025/phút ($1.49/giờ) cho RTX-6000/L40 đến $0.083/phút ($4.99/giờ) cho H200.

Tinh chỉnh

Theo 1 triệu token xử lý

Giá được tính dựa trên kích thước mô hình, kích thước dữ liệu và số lượng epochs. Tinh chỉnh có giám sát (LoRA) dao động từ $0.48 đến $2.90 cho mỗi 1 triệu token. Tinh chỉnh đầy đủ dao động từ $0.54 đến $3.20 cho mỗi 1 triệu token. DPO (LoRA) dao động từ $1.20 đến $7.25 cho mỗi 1 triệu token. DPO (FT đầy đủ) dao động từ $1.35 đến $8.00 cho mỗi 1 triệu token.

Cụm GPU Together

Bắt đầu từ $1.30/giờ

Cụm tiên tiến với các GPU NVIDIA Blackwell và Hopper (H200, H100, A100) cho đào tạo và suy diễn AI tối ưu. H200 bắt đầu từ $2.09/giờ, H100 là $1.75/giờ, A100 là $1.30/giờ. Giá cho GB200 và B200 yêu cầu liên hệ.

Thực thi mã

Theo giờ hoặc theo phiên

Together Code Sandbox được tính phí theo vCPU ($0.0446/giờ) và theo GiB RAM ($0.0149/giờ). Together Code Interpreter được tính phí theo phiên ($0.03 cho 60 phút).