AI フィクションを認識する方法

仕組み: テキスト ジェネレーターは、真実かどうかを確認するのではなく、確率に基づいて次の単語を予測します。したがって、彼は自信を持って、存在しない本、引用、統計、リンク、裁判例など、存在しないものを発明します。これは「嘘」ではありません。モデルは単にもっともらしい方法でギャップを埋めているだけです。危険信号: 出典のない正確すぎる数字、狭いトピックの特定の日付、巻数、ページ、開かれていない「リンク」、専門家が議論する自信に満ちた内容。テクニック: 事実 (法律の番号、記事のページ、著者との引用) がニッチで検証可能であればあるほど、発明の可能性が高くなります。モデルが最も簡単に思いつくのはその詳細です。 2 番目のトリック: 同じ質問を異なる方法で 2 回尋ねます。「事実」に関する答えが異なる場合、これは知識ではなくフィクションの兆候です。インサイダー: 幻覚は、明らかに奇妙な場所ではなく、長い答えのもっともらしい途中に隠れていることがよくあります。典型的な間違いは、自信があり有能に聞こえるという理由だけで答えを信頼することです。スタイルは真実と同じではありません。