📅 AI が知っていることと知らないこと
ニューラル ネットワークは全知全能ではありません。特定の時点 (終了日) までにトレーニング データに何が含まれていたかだけを知っています。その後に起こったことはすべて、彼女にとって存在していないように思えます。 「トレーニングの日付」スライダーを動かして、モデルが何を伝えられるのか、何が伝えられないのかを確認します。
締め切り日以降のイベントについては、モデルは正直に「わかりません」と言うか、さらに悪いことに、もっともらしい答えを導き出します。したがって、最新のニュース、価格、事実を得るために、ニューラル ネットワークがインターネット検索に接続します (これは RAG と呼ばれます)。確認せずに、最近何が起こったのかを把握するためにニューラル ネットワークに依存しないでください。
仕組み: 知識の締め切り日
モデルは、特定の日付より前に収集されたテキストの膨大なセクションに対して 1 回だけ教えられます。この後、彼女の知識は「凍結」されます。彼女はリアルタイムでニュースを読まなくなり、昨日のことも覚えていません。したがって、各モデルには期限 (知識の期限) があり、それを過ぎるとモデルは空になります。
危険なのは、モデルが常に無知を正直に認めているわけではないことです。切断後の出来事について彼女に尋ねると、彼女は自信を持って、もっともらしいが間違った答えを導き出すことができます（これは幻覚と呼ばれます）。外見上、そのような回答は実際の回答と区別できないため、最新の事実、数字、日付を常に再確認する必要があります。
モデルに新しいデータを提供するために、モデルをインターネット検索またはドキュメント データベースに接続し、見つけたものを直接クエリに入力します。この手法は RAG (検索拡張生成) と呼ばれます。したがって、実際的な結論は、実際の場合は、検索にアクセスできるモデルを要求し、重要な場合は、元のソースを確認することです。 AI の限界を理解することは AI スキルの一部であり、無料のレッスンで実践できます。
無料で始める