Managed GPU Cluster (Kubernetes)

Tất cả tài liệu FPT Integration

• FPT API Management

FPT Data Platform

• FPT Data Platform

FPT Security Platform

• FPT AppSec

AI Infrastructure

• Managed GPU Cluster (Kubernetes)

FPT AI Factory Billing

• Cost Explorer
• Budget Alert
• Bills

Support

• Zalo ticket support
• Trellix Customer Guide
• Request Resource

Multi Cloud FPT Database Engine

• Managed - FPT Database Engines

FPT Cloud Server

• Tagging
• SSO - Single sign-on
• Policy Management
• Global Search
• FPT Cloud Portal – Pay As You Go
• FPT Cloud Desktop
• FPT Autoscale
• Cloud Server

FPT DevSecOps Services

• FPT Key Vault
• FPT Jenkins CI
• FPT ArgoCD

FPT Next-Gen Firewall FPT Cloud Backup & DR

• FPT Backup As a Service
• Backup

FPT Monitoring

• FPT Reporting
• FPT Cloud Monitoring
• FPT Cloud Guard

FPT Security

• IAM
• FPT Cloud WAPPLES
• FPT Cloud WAF
• FPT Cloud VA
• Fortigate - FPT NGFW
• DdoS Protection
• CheckPoint - FPT NGFW

FPT Container

• Managed - FPT Kubernetes Engine
• FPT Kubernetes Engine with GPU
• FPT Container Registry
• Dedicated - FPT Kubernetes Engine

FPT Network

• VPN Site-to-Site
• Load Balancer
• Create VPC

FPT Storage

• FPT Object Storage

• File Storage - High Performance

• Initial Setup

  • Initial Setup

• Hướng dẫn chi tiết (Tutorials)

  • Quản lý Managed GPU Cluster
    • Khởi tạo Managed GPU Cluster mới
    • Xem danh sách Managed GPU Cluster đã tạo
    • Lấy thông tin truy cập Cluster
    • Xóa Managed GPU Cluster
  • Thay đổi cấu hình K8S Cluster
    • Add thêm Worker Group
    • Tính năng Manual Scale
    • Chỉnh sửa label/taint cho Worker Group
    • Tính năng chuyển Worker Group base
  • Service Type Load-Balancer
  • Triển khai mô hình DeepSeek-R1 sử dụng Ollama và Open WebUI
  • Hướng dẫn tích hợp File Storage – High Performance
  • Slurm on FPTCloud Managed GPU cluster
  • VGPU for container
  • GPU time sharing
  • MPS GPU sharing
  • Triển khai workload GPU mẫu lên Managed GPU Cluster
    • Serve Gemma open models trên một GPU với vLLM
    • Serve open models trên nhiều GPU với vLLM
    • Serve open models trên nhiều node với vLLM
    • Finetune LLM models trên FKE GPU với Unsloth

Managed GPU Cluster (Kubernetes)

1. FPT Cloud Portal
2. Managed GPU Cluster (Kubernetes)

Managed GPU Cluster (Kubernetes) FPT Managed GPU Cluster dựa trên nền tảng mã nguồn mở K8s giúp tự động hoá triển khai, nhân rộng và quản lý các ứng dụng container. FPT Managed GPU Cluster tích hợp đầy đủ các thành phần: Container Orchestration, Storage, Networking, Security, PaaS cung cấp cho khách hàng môi trường tốt nhất để phát triển và triển khai ứng dụng trên Cloud. FPT Managed GPU Cluster là một mô hình cung cấp dịch vụ Managed GPU Cluster của FKE. Với MANAGED GPU CLUSTER, FPT Cloud quản trị toàn bộ thành phần control-planes, người sử dụng sẽ triển khai và quản trị các Worker Nodes. MANAGED GPU CLUSTER giúp người sử dụng tập trung vào việc triển khai ứng dụng mà không cần tốn nguồn lực vào việc quản trị K8s Cluster. FPT Managed GPU Cluster là mô hình dịch vụ dựa trên nền tảng mã nguồn mở Kubernetes, giúp tự động hoá triển khai, nhân rộng và quản lý các ứng dụng đã được container hoá. Sản phẩm FPT Managed GPU Cluster ngoài tích hợp đầy đủ các thành phần: Container Orchestration, Storage, Networking, Security, PaaS thì còn cung cấp tài nguyên GPU, giúp hỗ trợ các thao tác tính toán phức tạp. Những điều cần lưu ý trước khi sử dụng Managed GPU Cluster?

• Vị trí đặt Managed GPU Cluster : Vị trí địa lý (Region) có thể sẽ ảnh hưởng đến tốc độ truy cập đến máy chủ trong quá trình sử dụng. Bạn nên chọn Region gần nhất với đối tượng phát sinh traffic để tối ưu được tốc độ.
• Số lượng các Nodes và cấu hình của từng Nodes cần sử dụng : Các tài khoản FPT Cloud đều được cấp một hạn mức nhất định cho các tài nguyên Ram, CPU, Storage, IP… Vì vậy, khách hàng nên xác định số lượng tài nguyên cần sử dụng và giới hạn tối đa cần đáp ứng để FPT Cloud hỗ trợ bạn tốt nhất.

Trang chủ

01Initial Setup

• Initial Setup

02Hướng dẫn chi tiết (Tutorials)

• Quản lý Managed GPU Cluster
  • Khởi tạo Managed GPU Cluster mới
  • Xem danh sách Managed GPU Cluster đã tạo
  • Lấy thông tin truy cập Cluster
  • Xóa Managed GPU Cluster
• Thay đổi cấu hình K8S Cluster
  • Add thêm Worker Group
  • Tính năng Manual Scale
  • Chỉnh sửa label/taint cho Worker Group
  • Tính năng chuyển Worker Group base
• Service Type Load-Balancer
• Triển khai mô hình DeepSeek-R1 sử dụng Ollama và Open WebUI
• Hướng dẫn tích hợp File Storage – High Performance
• Slurm on FPTCloud Managed GPU cluster
• VGPU for container
• GPU time sharing
• MPS GPU sharing
• Triển khai workload GPU mẫu lên Managed GPU Cluster
  • Serve Gemma open models trên một GPU với vLLM
  • Serve open models trên nhiều GPU với vLLM
  • Serve open models trên nhiều node với vLLM
  • Finetune LLM models trên FKE GPU với Unsloth

Hotline:1900 638 399 Địa chỉ: Hà Nội:FPT Tower, Số 10 Phạm Văn Bạch, Phường Cầu Giấy
TP. Hồ Chí Minh: Tòa nhà PJICO, 186 Điện Biên Phủ, Phường Xuân Hòa
Tokyo: 33F, Sumitomo Fudosan Tokyo Mita Garden Tower, 3-5-19 Mita, Minato-ku

Email: support@fptcloud.com

Về chúng tôi

• Giới thiệu chung
• Đối tác & Khách hàng
• Tin tức - Sự kiện
• Tuyển dụng
• Liên hệ

Dịch vụ

• FPT Cloud Server
• FPT Backup Service
• FPT Disaster Recovery Services
• FPT Object storage
• FPT Kubernetes Engine
• FPT Monitoring
• FPT Load Balancer
• FPT Next-Gen Firewall
• FPT Cloud Desktop

Điều khoản & Chính sách

• Điều Khoản Sử dụng
• Chính sách Bảo vệ quyền riêng tư
• Báo cáo lỗ hổng bảo mật hoặc quyền riêng tư
• Chính sách Bảo vệ Dữ liệu Cá nhân
• Biểu mẫu Báo Cáo Rủi Ro hoặc Vi Phạm

Đăng ký nhận tin Gửi

• Liên hệ Email

Chúng tôi quan tâm đến sự riêng tư của bạn Trang web này sử dụng cookie để cải thiện trải nghiệm người dùng. Bằng cách sử dụng trang web của chúng tôi, bạn đồng ý với tất cả cookie theo Chính sách bảo mật của chúng tôi Chỉ những cookie cần thiết Cài đặt Tôi đồng ý