Atelier embeddings

Trois activités pour explorer comment un modèle de langage représente le sens des mots.

Un embedding transforme un texte en une suite de 3072 nombres — un point dans un espace abstrait. Ces trois outils partagent le même espace : une dimension porte le même numéro partout, ce qui permet de relier les observations d'une activité à l'autre.

Activité 1

Comparateur sémantique

Comparer des paires de textes, accumuler les comparaisons, et traquer les dimensions qui réagissent au sens.

Activité 2

Additionneur de mots

Faire de l'arithmétique sur le sens : roi − homme + femme = ? Le résultat est le mot connu le plus proche du point obtenu.

Activité 3

Projecteur (ACP)

Projeter une liste de mots en 2D, changer d'axes parmi les composantes principales, et regrouper les mots visuellement.