Dall’atomo alla galassia il MIT esplora la geometria dei concetti nei LLM
Digital Innovation in the Era of Generative AI - Ein Podcast von Andrea Viliotti
Lo studio condotto dal MIT esplora la geometria dei concetti all'interno dei modelli linguistici di grandi dimensioni (LLM). I ricercatori hanno scoperto che questi modelli organizzano le informazioni in modo gerarchico e complesso, simile alla struttura atomica, cerebrale e galattica. La geometria dei concetti si presenta come cristalli geometrici a livello atomico, lobi funzionali a livello cerebrale e distribuzioni su larga scala che seguono una legge di potenza a livello galattico. Questa scoperta suggerisce che gli LLM potrebbero non solo elaborare informazioni, ma anche imitare modelli universali della natura, aprendo nuove strade per la comprensione e lo sviluppo di sistemi di intelligenza artificiale.