SageMaker HyperPod thêm versioning AMI và tự vá bảo mật

Amazon SageMaker HyperPod (được điều phối bởi Amazon EKS) nay hỗ trợ versioning AMI và tự vá bảo mật, giúp quản trị cụm huấn luyện AI kiểm soát tốt hơn nền tảng phần mềm chạy trên từng node.

Ý chính

• HyperPod hiển thị phiên bản AMI của từng instance group/node theo định dạng semver (major.minor.patch) để phát hiện drift và rollback về stack NVIDIA driver/CUDA/phần mềm trước đó, thông qua API UpdateClusterSoftware.
• Auto-patching là tùy chọn bật theo từng instance group và chỉ áp bản vá bảo mật tương thích ngược khi node rảnh, nên workload đang chạy không bị gián đoạn.
• Các gói AI/ML quan trọng (NVIDIA driver, CUDA, kernel OS) không bị nâng sang major/minor khác trong lúc auto-patch.
• Có chính sách hỗ trợ AMI công bố mốc thời gian sau đó HyperPod ngừng cấp bản vá bảo mật.
• Cả hai tính năng dành cho cụm HyperPod do Amazon EKS điều phối, ở mọi Region đang hỗ trợ HyperPod.