Toolverse
Wszystkie skille

openrouter-streaming-setup

autor: jeremylongshore

Strumieniuj odpowiedzi z OpenRouter w czasie rzeczywistym — od razu widać pierwsze tokeny

Instalacja

Wybierz klienta i sklonuj repozytorium do odpowiedniego katalogu skilli.

Instalacja

Szybkie info

Wyświetlenia
11

O skillu

Skill do implementacji streaming'u przez OpenRouter za pomocą Server-Sent Events (SSE). Przydatny przy budowaniu interfejsów czatu, gdzie liczą się milisekundy do pierwszego tokenu, oraz przy przetwarzaniu długich odpowiedzi. Obsługuje Python i TypeScript, integruje się z przeglądarkami i zawiera mechanizmy odporności na błędy. Wyzwalacze: 'openrouter streaming', 'openrouter sse', 'stream response', 'real-time openrouter'.

Jak używać

  1. Zainstaluj skill w swoim środowisku Claude Code, Codex lub OpenClaw — sprawdź kompatybilność wersji 2.0.0 i licencję MIT.

  2. Skonfiguruj klucz API OpenRouter w zmiennej środowiskowej OPENROUTER_API_KEY oraz ustaw nagłówki HTTP (HTTP-Referer i X-Title) wskazujące na Twoją aplikację.

  3. W kodzie Python zaimportuj bibliotekę OpenAI i utwórz klienta z base_url="https://openrouter.ai/api/v1", następnie wywołaj chat.completions.create() z parametrem stream=True.

  4. Dodaj stream_options={"include_usage": True}, aby otrzymać statystyki tokenów (prompt_tokens i completion_tokens) w ostatnim chunku odpowiedzi.

  5. Iteruj po strumieniu — każdy chunk zawiera fragment treści w choices[0].delta.content; wypisuj tokeny na bieżąco za pomocą print(token, end="", flush=True), aby użytkownik widział odpowiedź w czasie rzeczywistym.

  6. Obsłuż ostatni chunk, który zawiera dane użycia (chunk.usage) — wyświetl liczbę tokenów wejściowych i wyjściowych, aby śledzić koszty API.

Podobne skille