Amazon SageMaker AI inference rozszerza dostępność G7e instances do Azji i Europy
Amazon EC2 G7e instances trafiły do SageMaker AI inference w Seulu, Londynie i Tokio. Te maszyny wyposażone w aż 8 GPU NVIDIA RTX PRO 6000 Blackwell z 96 GB pamięci każdy oferują 2,3x lepszą wydajność niż poprzednia generacja G6e. Dzięki rozszerzeniu regionów możesz teraz deployować modele LLM do 70B parametrów bliżej użytkowników, co znacznie zmniejsza latencję dla aplikacji AI.
źródło: [aws/whats-new]