chaos-lab
Badaj problemy wyrównania AI poprzez agentów z konfliktowymi celami
Instalacja
Wybierz klienta i sklonuj repozytorium do odpowiedniego katalogu skilli.
Instalacja
O skillu
Chaos Lab to framework badawczy do eksploracji problemów wyrównania sztucznej inteligencji. Uruchamiasz agentów Gemini z przeciwstawnymi celami optymalizacji i obserwujesz, jak się zachowują w tym samym środowisku. Jeden agent dąży do efektywności i usuwa pliki, drugi widzi zagrożenia wszędzie, trzeci archiwizuje wszystko. Narzędzie pokazuje, że bardziej zaawansowane modele nie zmniejszają chaosu – lepiej go uzasadniają.
Jak używać
Przygotuj klucz API Gemini. Utwórz katalog konfiguracyjny poleceniem mkdir -p ~/.config/chaos-lab, a następnie zapisz swój klucz w pliku .env: echo "GEMINI_API_KEY=twoj_klucz" > ~/.config/chaos-lab/.env. Ustaw uprawnienia dostępu chmod 600 ~/.config/chaos-lab/.env.
Zainstaluj zależności. Uruchom pip3 install requests, aby pobrać bibliotekę requests wymaganą przez framework.
Uruchom eksperyment z dwoma agentami. Wykonaj python3 scripts/run-duo.py, aby obserwować konflikt między agentem optymalizującym efektywność (usuwa pliki) a agentem szukającym zagrożeń (flaguje wszystko jako podejrzane).
Rozszerz eksperyment do trzech agentów. Uruchom python3 scripts/run-trio.py, aby dodać trzeciego agenta archiwizującego wszystkie dane. Obserwuj, jak trzy sprzeczne cele prowadzą do jeszcze bardziej złożonych zachowań.
Porównaj zachowanie różnych modeli. Dodaj flagę --model gemini-2.0-flash do polecenia run-duo.py, aby zobaczyć, jak szybszy model Gemini radzi sobie z chaosem w porównaniu z domyślnym modelem Pro.