tag: Ray

Amazon SageMaker HyperPod dostał wsparcie dla Ray na Amazon EKS, co oznacza, że możesz teraz zarządzać klastrami Ray bezpośrednio ze SageMaker Studio. Całość działa z otwartym KubeRay i standardowymi Ray API, dając ci out-of-the-box obserwabilność oraz możliwość uruchamiania odpornego treningu rozproszonego i przyspieszanego inferencingu.

Amazon SageMaker HyperPod dostał solidne wsparcie dla Ray'a – teraz możesz interaktywnie rozwijać i monitorować klastry Ray bezpośrednio ze Studio, bez męczenia się z kubectl. Nowe możliwości to auto-recovery węzłów, inteligentne checkpointing i przyspieszony inference z Ray Serve, co razem daje ci bardziej niezawodne trenowanie i lepszą wykorzystanie GPU.