O czym należy pamiętać wywołując API? Zwróć JSON {"essentials": [lista ponad 2 rzeczy], "why": "krótkie"}.
Wywoływanie modelu z kodu jest zwykłym żądaniem HTTP kierowanym do API dostawcy: wysyłasz komunikaty i parametry oraz otrzymujesz odpowiedź. Co jest ważne do zrozumienia: rozdzielenie ról – komunikat systemowy określa zachowanie, użytkownik – żądanie użytkownika; parametry generacji: temperatura (0 - stabilna i deterministyczna, wyższa - bardziej kreatywna), max_tokens (limit długości i kosztu); odpowiedź należy przeanalizować i zweryfikować, a nie ślepo ufać; Klucz API jest tajemnicą, tylko na serwerze. Reguła: z kodu sterujesz modelem poprzez komunikaty i parametry i zawsze sprawdzasz odpowiedź; Udogodnienia czatu (pamięć, formatowanie) nie pojawią się same – konfigurujesz je.