Veiligheids- en pre-lanceringstests

Twee vaardigheden zonder welke een project niet kan worden vrijgegeven, zijn beveiliging en verificatie. Laten we beginnen met de beveiliging: de code die AI schrijft vereist soms wachtwoorden, sleutels en toegang. Voer nooit echte wachtwoorden en persoonlijke gegevens in een verzoek in - schrijf een stompje zoals YOUR_PASSWORD en voer zelf de echte waarde in, waar de AI u zal laten zien; Beschouw alles wat u in het verzoek hebt verzonden als uit de hand gelopen. Controleer nu. Het eindresultaat is niet het resultaat dat “klaar lijkt”, maar het resultaat dat de test doorstaat. Maak een korte lijst met controlestappen en doorloop ze handmatig: voer normale gegevens in, en dan duidelijk kromme gegevens (leeg, letters in plaats van cijfers, een enorm aantal). Beschrijf hoe u met geheimen omgaat, geef een lijst met tests en noem waarschuwingssignalen (vraagt ​​om toegang die niet vereist zou moeten zijn; stelt voor om de beveiliging uit te schakelen). Test op fictieve gegevens, niet op echte gegevens. U vindt het niet erg om deze te verbreken. En vraag de AI: “wat kan hier misgaan en hoe kan ik dit controleren?” — het model zelf zal u de zwakke punten vertellen. Een veelgemaakte fout is om de code te vertrouwen alleen maar omdat deze “draaide”: actief betekent niet dat deze correct berekent.