SageMaker AI zyskuje routing inferencji między regionami
Amazon SageMaker AI wprowadza cross-Region inference routing, czyli możliwość automatycznego przesyłania requestów do endpointów w innych regionach AWS, gdy lokalny brakuje mocy. Deweloperzy mogą teraz zapomnieć o ręcznym budowaniu logiki routingu i health checków - wystarczy zarejestrować endpointy w routerze, a ten sam zajmie się balansowaniem i powrotem do lokalnych instancji po ich regeneracji.
źródło: [aws/whats-new]