SageMaker Inference z obsługą GPU partitioning - lepsze wykorzystanie akceleratorów

Amazon SageMaker Inference teraz wspiera NVIDIA Multi-Instance GPU (MIG), czyli partycjonowanie pojedynczego GPU na izolowane sprzętowo sekcje, w których możesz uruchamiać różne modele jednocześnie. Dzięki dwóm opcjonalnym polom API możesz lepiej wykorzystać moc obliczeniową i zaoszczędzić na kosztach infrastruktury.