Dzielenie GPU na Kubernetesie – jak uruchomić dwa pody na jednym akceleratorze
Artykuł pokazuje, jak efektywnie wykorzystać pojedynczy GPU NVIDIA A10G do uruchamiania dwóch kontenerów Kubernetes jednocześnie dzięki NVIDIA Run:ai GPU Fractioning. Dowiesz się, jak skonfigurować custom obraz Amazon Linux 2023, zainstalować KAI Scheduler i GPU Fractioning Operator, a także monitorować i egzekwować limity pamięci GPU dla każdego poda.
źródło: [aws/machine-learning-blog]