bartek@aws: ~/news
$ whoami
$ AWS Architect · DevOps · Cloud
czwartek, 19 listopada 2026

Exa przyspiesza embedding o 50% dzięki AWS Neuron

Exa pokazuje, jak zoptymalizować inference embeddingów na sprzęcie AWS Neuron (Inferentia2 i Trainium2) za pomocą custom NKI kernels, osiągając 47% wzrost wydajności. To praktyczne rozwiązanie dla każdego, kto indeksuje miliardy dokumentów i chce zmniejszyć koszty per million dokumentów.

źródło: [aws/machine-learning-blog]