groq-webhooks-events

Skill do implementacji architektur sterowanych zdarzeniami z użyciem API Groq. Umożliwia tworzenie endpointów SSE do streamingu w czasie rzeczywistym, potoków przetwarzania wsadowego z callbackami oraz procesorów zdarzeń, które wykorzystują Groq do klasyfikacji i ekstrakcji danych. Groq nie oferuje natywnych webhooków, ale jego ultra-niska latencja (poniżej sekundy) pozwala na unikalne wzorce: streaming SSE, kolejki oparte na zdarzeniach i pipeliny asynchroniczne. Idealny do budowania systemów reaktywnych opartych na LLM.

1. Zainstaluj zależności: upewnij się, że masz zainstalowany pakiet groq-sdk oraz system kolejkowania (BullMQ, Redis lub SQS) do wzorców przetwarzania wsadowego. Ustaw zmienną środowiskową GROQ_API_KEY z Twoim kluczem API Groq.

2. Skonfiguruj endpoint SSE do streamingu: utwórz endpoint POST (np. /api/chat/stream) w Express.js, który przyjmuje wiadomości i model jako parametry. Endpoint powinien zwrócić nagłówki Server-Sent Events (Content-Type: text/event-stream) i wyłączyć buforowanie (X-Accel-Buffering: no dla nginx).

3. Utwórz strumień z Groq: użyj groq.chat.completions.create() z parametrem stream: true. Iteruj po chunkach streamu i wysyłaj każdy token do klienta w formacie data: {JSON}\n\n.

4. Obsługuj zdarzenia w kolejce: dla wzorców wsadowych połącz Groq z systemem kolejkowania — dodawaj zadania do kolejki, a worker procesy wysyłają żądania do Groq i obsługują odpowiedzi asynchronicznie.

5. Testuj endpoint: wyślij żądanie POST z tablicą messages i opcjonalnym modelem (domyślnie llama-3.3-70b-versatile). Klient powinien odbierać tokeny w czasie rzeczywistym przez SSE.