throttling-apis

Skill do implementacji polityk ograniczania ruchu API, które chronią usługi backendowe przed przeciążeniem. Kontrolujesz współbieżność żądań, głębokość kolejek i szybkość przetwarzania. Dodaj mechanizmy backpressure, limity równoczesnych żądań, kolejki priorytetowe, wyłączniki obwodu i adaptacyjne ograniczanie dostosowujące się do zdrowia backendu w czasie rzeczywistym. Pracuje z Express, FastAPI, Spring Boot i Gin.

1. Przeanalizuj istniejące handlery tras i middleware za pomocą Grep i Read, aby zidentyfikować endpointy z wysokim opóźnieniem, operacjami wymagającymi bazy danych lub zależnościami od usług zewnętrznych, które wymagają ochrony ograniczania ruchu.

2. Zaimplementuj middleware limitera współbieżności, które śledzi żądania w locie na endpoint i odrzuca nowe żądania kodem 503 Service Unavailable, gdy limit współbieżności zostanie osiągnięty.

3. Dodaj obsługę kolejki priorytetowej, która klasyfikuje żądania według warstwy klucza API (free, pro, enterprise) i obsługuje żądania wyższej warstwy w pierwszej kolejności, gdy zbliżasz się do limitów ograniczania.

4. Zbuduj wyłącznik obwodu dla wywołań usług downstream, który się otwiera po konfigurowalnych progach błędów (np. 5 błędów w 10 sekund), zwracając odpowiedź błędu zamiast propagować awarię.

5. Skonfiguruj monitoring i metryki, aby śledzić opóźnienia backendu i wskaźniki błędów za pomocą Prometheus lub CloudWatch, umożliwiając adaptacyjne dostosowywanie limitów w oparciu o rzeczywisty stan zdrowia systemu.

6. Przetestuj zachowanie ograniczania pod obciążeniem za pomocą narzędzia do testów obciążeniowych (k6, Artillery, wrk), aby upewnić się, że polityki skutecznie chronią backend bez niepotrzebnego odrzucania prawidłowych żądań.