dspy

DSPy to framework Stanforda do systematycznego programowania modeli językowych. Zamiast ręcznego inżynierii promptów, definiujesz strukturę danych wejściowych i wyjściowych, a system automatycznie optymalizuje interakcje z modelami. Idealne do budowania złożonych systemów RAG, agentów i klasyfikatorów, które są modularne, testowalne i łatwe w utrzymaniu. Wspiera Claude, OpenAI i inne dostawców LM.

1. Zainstaluj DSPy za pomocą pip install dspy, a następnie dodaj obsługę wybranego dostawcy, np. pip install dspy[anthropic] dla Claude lub pip install dspy[openai] dla OpenAI.

2. Skonfiguruj model w swoim skrypcie — zaimportuj dspy, utwórz instancję dspy.Claude() lub innego dostawcy z wybranym modelem, a następnie ustaw ją jako domyślną za pomocą dspy.settings.configure(lm=twój_model).

3. Zdefiniuj sygnaturę (Signature) jako klasę dziedziczącą po dspy.Signature, która opisuje pola wejściowe (InputField) i wyjściowe (OutputField) — na przykład pytanie jako wejście i odpowiedź jako wyjście.

4. Utwórz moduł DSPy, taki jak dspy.Predict(), przekazując swoją sygnaturę jako argument — ten moduł będzie obsługiwać komunikację z modelem.

5. Wywołaj moduł z danymi wejściowymi — przekaż pytanie lub tekst do metody modułu, a DSPy automatycznie sformatuje prompt, wyśle go do modelu i zwróci strukturyzowany wynik.

6. Dla bardziej zaawansowanych scenariuszy (łańcuchy myślenia, optymalizacja promptów) rozszerz swoją sygnaturę dodatkowymi polami lub użyj optymalizatorów DSPy do automatycznego dostrojenia promptów na podstawie danych treningowych.