vastai-reference-architecture

Umożliwia szybkie wdrożenie produkcyjnej architektury dla obliczeń GPU na platformie Vast.ai. Zawiera trójwarstwowy wzorzec: orkiestrator zarządzający kolejką zadań, pracownicy GPU wykonujący trenowanie modeli, oraz magazyn artefaktów do przechowywania checkpointów. Idealny do projektowania nowych integracji Vast.ai, strukturyzowania pipeline'ów ML czy ustalania standardów architektonicznych dla aplikacji opartych na GPU.

1. Zainstaluj umiejętność w swoim środowisku Claude Code, Codex lub OpenClaw, upewniając się, że masz dostęp do narzędzi Read i Grep.

2. Przygotuj warunki wstępne: aktywne konto Vast.ai z zainstalowanym CLI, skonfigurowane magazyny chmury (S3, GCS lub MinIO) do przechowywania artefaktów oraz podstawową wiedzę o pipeline'ach trenowania modeli ML.

3. Wyzwól umiejętność frazami takimi jak "vastai architecture", "vastai design pattern", "vastai project structure" lub "vastai ml pipeline", aby uzyskać wskazówki dotyczące struktury projektu.

4. Przeanalizuj zaproponowaną architekturę trójwarstwową: warstwa orkiestratora (zarządzanie kolejką i monitorowanie), warstwa pracowników GPU (wykonanie zadań i zapis checkpointów), warstwa magazynu artefaktów (przechowywanie modeli). Dostosuj komponenty do swoich potrzeb.

5. Zaimplementuj obsługę awarii i preempcji: skonfiguruj graceful shutdown dla instancji spot, monitorowanie stanu zdrowia i automatyczne odzyskiwanie zadań w przypadku przerw.

6. Wdrażaj stopniowo, zaczynając od pojedynczego zadania treningowego, a następnie skalując do wielu równoczesnych instancji GPU z śledzeniem kosztów i egzekwowaniem budżetu.