Wat is belangrijk om te begrijpen bij het aanroepen van een API? Retourneer JSON {"essentials": [lijst met meer dan 2 dingen], "why": "kort"}.
Het aanroepen van een model vanuit code is een regulier HTTP-verzoek aan de API van de provider: u verzendt berichten en parameters en ontvangt een antwoord. Wat belangrijk is om te begrijpen: scheiding van rollen - het systeembericht bepaalt het gedrag, gebruiker - het gebruikersverzoek; generatieparameters: temperatuur (0 - stabiel en deterministisch, hoger - creatiever), max_tokens (lengte en kostenlimiet); het antwoord moet worden ontleed en gevalideerd, en niet blindelings worden vertrouwd; API-sleutel is geheim, alleen op de server. Regel: vanuit de code bestuur je het model via berichten plus parameters en valideer je altijd het antwoord; Chatvoorzieningen (geheugen, opmaak) verschijnen niet vanzelf; u stelt ze in.