Managed GPU Cluster (Kubernetes)

Tất cả tài liệu FPT Integration

• FPT API Management

FPT Data Platform

• FPT Data Platform

FPT Security Platform

• FPT AppSec

AI Infrastructure

• Managed GPU Cluster (Kubernetes)

FPT AI Factory Billing

• Cost Explorer
• Budget Alert
• Bills

Support

• Zalo ticket support
• Trellix Customer Guide
• Request Resource

Multi Cloud FPT Database Engine

• Managed - FPT Database Engines

FPT Cloud Server

• Tagging
• SSO - Single sign-on
• Policy Management
• Global Search
• FPT Cloud Portal – Pay As You Go
• FPT Cloud Desktop
• FPT Autoscale
• Cloud Server

FPT DevSecOps Services

• FPT Key Vault
• FPT Jenkins CI
• FPT ArgoCD

FPT Next-Gen Firewall FPT Cloud Backup & DR

• FPT Backup As a Service
• Backup

FPT Monitoring

• FPT Reporting
• FPT Cloud Monitoring
• FPT Cloud Guard

FPT Security

• IAM
• FPT Cloud WAPPLES
• FPT Cloud WAF
• FPT Cloud VA
• Fortigate - FPT NGFW
• DdoS Protection
• CheckPoint - FPT NGFW

FPT Container

• Managed - FPT Kubernetes Engine
• FPT Kubernetes Engine with GPU
• FPT Container Registry
• Dedicated - FPT Kubernetes Engine

FPT Network

• VPN Site-to-Site
• Load Balancer
• Create VPC

FPT Storage

• FPT Object Storage

• File Storage - High Performance

• Initial Setup

  • Initial Setup

• Hướng dẫn chi tiết (Tutorials)

  • Quản lý Managed GPU Cluster
    • Khởi tạo Managed GPU Cluster mới
    • Xem danh sách Managed GPU Cluster đã tạo
    • Lấy thông tin truy cập Cluster
    • Xóa Managed GPU Cluster
  • Thay đổi cấu hình K8S Cluster
    • Add thêm Worker Group
    • Tính năng Manual Scale
    • Chỉnh sửa label/taint cho Worker Group
    • Tính năng chuyển Worker Group base
  • Service Type Load-Balancer
  • Triển khai mô hình DeepSeek-R1 sử dụng Ollama và Open WebUI
  • Hướng dẫn tích hợp File Storage – High Performance
  • Slurm on FPTCloud Managed GPU cluster
  • VGPU for container
  • GPU time sharing
  • MPS GPU sharing
  • Triển khai workload GPU mẫu lên Managed GPU Cluster
    • Serve Gemma open models trên một GPU với vLLM
    • Serve open models trên nhiều GPU với vLLM
    • Serve open models trên nhiều node với vLLM
    • Finetune LLM models trên FKE GPU với Unsloth

Triển khai workload GPU mẫu lên Managed GPU Cluster

1. FPT Cloud Portal
2. Managed GPU Cluster (Kubernetes)

Triển khai workload GPU mẫu lên Managed GPU Cluster *

---

Previous MPS GPU sharing Next Serve Gemma open models trên một GPU với vLLM

Hotline:1900 638 399 Địa chỉ: Hà Nội:FPT Tower, Số 10 Phạm Văn Bạch, Phường Cầu Giấy
TP. Hồ Chí Minh: Tòa nhà PJICO, 186 Điện Biên Phủ, Phường Xuân Hòa
Tokyo: 33F, Sumitomo Fudosan Tokyo Mita Garden Tower, 3-5-19 Mita, Minato-ku

Email: support@fptcloud.com

Về chúng tôi

• Giới thiệu chung
• Đối tác & Khách hàng
• Tin tức - Sự kiện
• Tuyển dụng
• Liên hệ

Dịch vụ

• FPT Cloud Server
• FPT Backup Service
• FPT Disaster Recovery Services
• FPT Object storage
• FPT Kubernetes Engine
• FPT Monitoring
• FPT Load Balancer
• FPT Next-Gen Firewall
• FPT Cloud Desktop

Điều khoản & Chính sách

• Điều Khoản Sử dụng
• Chính sách Bảo vệ quyền riêng tư
• Báo cáo lỗ hổng bảo mật hoặc quyền riêng tư
• Chính sách Bảo vệ Dữ liệu Cá nhân
• Biểu mẫu Báo Cáo Rủi Ro hoặc Vi Phạm

Đăng ký nhận tin Gửi

• Liên hệ Email

Chúng tôi quan tâm đến sự riêng tư của bạn Trang web này sử dụng cookie để cải thiện trải nghiệm người dùng. Bằng cách sử dụng trang web của chúng tôi, bạn đồng ý với tất cả cookie theo Chính sách bảo mật của chúng tôi Chỉ những cookie cần thiết Cài đặt Tôi đồng ý