LearnAI
← AI Lab

🧩 Tokenizer: come l'IA vede il testo

L'intelligenza artificiale non legge lettere e parole. Vede "gettoni" - pezzi di testo. Incolla qualsiasi cosa e guarda come il tuo testo si trasforma in token.

Клубника·—·strawberry.·Сколько·в·ней·букв·«r»?·🍓
17 gettoni49 caratteri2.9 carattere/gettone

🍓 Perché l'intelligenza artificiale non può contare le lettere

"fragola" per l'IA è di 2-3 gettoni, non di 10 lettere. Non vede le singole lettere "r" all'interno del gettone, quindi spesso commette errori nel contare le lettere. Ora sai perché.

💸 La tua lingua potrebbe essere “più costosa”

La stessa frase in lingue diverse = numero diverso di token. Il russo e molte lingue sono spesso “più costose” dell’inglese: più token significano più costosi e più lenti per l’intelligenza artificiale. Aspetto:

EN 🇬🇧
8
RU 🇷🇺
14
中文 🇨🇳
8

🧠 Finestra di contesto: perché l’AI “dimentica”

L'intelligenza artificiale ha una memoria limitata, una "finestra di contesto". Quando i token sono troppi, quelli più vecchi volano via e l’IA “dimentica” l’inizio della conversazione.

17 / 8,000 gettoni utilizzati