Les réseaux de neurones fonctionnent avec des nombres. « Moscou », « Berlin », « Tokyo » ne sont pas des chiffres. La tâche de codage consiste à transformer une catégorie en nombre sans introduire de faux ordre. Si vous dites au modèle Moscou=1, Berlin=2, Tokyo=3, vous en déduisez que Tokyo est « trois fois plus grande » que Moscou. Ce n'est pas vrai. Le choix de la bonne méthode de codage a un impact sérieux sur la qualité du modèle.