vastai-enterprise-rbac
Zarządzaj dostępem do GPU na Vast.ai z kontrolą budżetu i uprawnieniami zespołów
Instalacja
Wybierz klienta i sklonuj repozytorium do odpowiedniego katalogu skilli.
Instalacja
O skillu
Skill do konfiguracji kontroli dostępu i zarządzania wydatkami na platformie Vast.ai. Pozwala na separację kluczy API dla różnych zespołów, ustawienie limitów budżetowych, ograniczenie dostępu do konkretnych typów GPU oraz monitorowanie wydatków na godzinę. Idealne dla organizacji korzystających z chmury GPU, gdzie trzeba rozdzielić dostęp między zespoły badawcze, inżynieryjne i data science z indywidualnymi limitami wydatków.
Jak używać
Przygotuj konta Vast.ai i klucze API dla każdego zespołu, który będzie miał oddzielny dostęp do GPU. Zdecyduj, czy używać osobnych kont Vast.ai dla każdego zespołu, czy zarządzać dostępem na poziomie aplikacji z jednego konta.
Zdefiniuj konfigurację zespołów, określając dla każdego z nich zmienną środowiskową klucza API, listę dozwolonych typów GPU (np. A100, H100, RTX 4090), maksymalną liczbę instancji oraz dzienny budżet. Na przykład zespół badawczy może mieć dostęp do H100 z budżetem 200 USD dziennie, a zespół data science do RTX 4090 z budżetem 10 USD dziennie.
Wdróż warstwę egzekwowania polityk, która będzie sprawdzać każde żądanie dostępu do GPU względem zdefiniowanych reguł. Warstwa powinna weryfikować, czy żądany typ GPU jest na białej liście dla danego zespołu, czy liczba aktywnych instancji nie przekracza limitu oraz czy wydatki nie przekroczą dziennego budżetu.
Skonfiguruj monitorowanie wydatków w czasie rzeczywistym, aby śledzić koszt za godzinę (dph) dla każdego zespołu. Ustaw alerty, gdy wydatki zbliżają się do dziennego limitu budżetu.
Przetestuj konfigurację, próbując uruchomić instancje GPU z różnych zespołów i weryfikując, że polityki dostępu działają prawidłowo. Upewnij się, że zespoły mogą uruchamiać tylko dozwolone typy GPU i że limity budżetowe są egzekwowane.