📅 Apa yang diketahui dan tidak diketahui AI
Jaringan saraf tidak mahatahu - ia hanya mengetahui apa yang ada dalam data pelatihannya hingga titik tertentu (tanggal batas). Segala sesuatu yang terjadi kemudian sepertinya tidak ada baginya. Pindahkan penggeser “tanggal pelatihan” dan lihat apa yang dapat disampaikan oleh model kepada Anda dan apa yang tidak.
Untuk kejadian setelah batas waktu, model akan dengan jujur mengatakan “Saya tidak tahu” atau, lebih buruk lagi, memberikan jawaban yang masuk akal. Oleh karena itu, untuk berita, harga, dan fakta terkini, jaringan saraf menghubungkan pencarian Internet (ini disebut RAG). Jangan pernah mengandalkan jaringan saraf untuk mencari tahu apa yang terjadi baru-baru ini tanpa memeriksanya.
Cara kerjanya: tanggal batas pengetahuan
Model ini diajarkan satu kali pada sejumlah besar teks yang dikumpulkan sebelum tanggal tertentu. Setelah itu, pengetahuannya “dibekukan”: dia tidak membaca berita secara real time dan tidak mengingat hari kemarin. Oleh karena itu, setiap model memiliki tanggal batas waktu (batas pengetahuan), di luar itu terdapat kekosongan untuk model tersebut.
Bahayanya adalah model tersebut tidak selalu dengan jujur mengakui ketidaktahuannya. Tanyakan padanya tentang suatu peristiwa setelah cutoff, dan dia dengan yakin dapat memberikan jawaban yang masuk akal tetapi salah (ini disebut halusinasi). Secara lahiriah, jawaban seperti itu tidak dapat dibedakan dengan jawaban sebenarnya, sehingga fakta, angka, dan tanggal baru harus selalu diperiksa ulang.
Untuk menyediakan model dengan data baru, mereka menghubungkannya ke pencarian Internet atau database dokumen dan memasukkan apa yang mereka temukan langsung ke dalam kueri - teknik ini disebut RAG (retrieval-augmented generation). Oleh karena itu kesimpulan praktisnya: untuk yang sebenarnya, mintalah model dengan akses pencarian, dan yang penting, periksa dengan sumber aslinya. Memahami batasan AI adalah bagian dari keterampilan AI dan dapat dipraktikkan dalam pelajaran gratis.
Mulai secara gratis