Tanné de l'IA partout? Moi aussi.

Tout le monde parle du « slop », ces images et ces textes générés à la chaîne par l'IA. Les affiches, les dépliants, les pubs : tout finit par avoir le même éclairage doré, les mêmes visages lisses, et personne derrière. Au bout d'un moment, on ne regarde plus rien. J'en suis tanné, moi aussi.

Sauf que je travaille en techno depuis vingt ans, et c'est moi qui ai mis de l'IA au cœur de Toupie, une app qui crée des livres pour enfants. Je suis juge et partie, aussi bien le dire tout de suite. Alors je me suis posé la question franchement : qu'est-ce qui fait qu'une image devient du slop?

Fait pour personne

Ma réponse, pour l'instant : c'est fait pour personne. Du contenu pour remplir une case, qu'on regarde une demi-seconde et qu'on oublie. Et avec l'IA, on peut maintenant en produire à l'infini, pour presque rien.

Fait pour quelqu’un

Un livre de Toupie, c'est l'inverse : il est fait pour une seule famille. La première journée de ski, l'arrivée du bébé, la première nuit chez grand-maman. Des histoires qu'aucun éditeur ne publierait, parce que tout leur public tient autour d'une table de cuisine. Et ton enfant reconnaît les visages : lui-même, ses grands-parents, son meilleur ami, le chien. Mon gars ne regarde pas ces pages-là une demi-seconde. Il se cherche dedans.

Je ne cherche pas à remplacer les vrais livres, ni les artistes qui les font. Un album qui a demandé des mois de travail à un illustrateur va toujours être plus beau que ce qu'une machine sort en quelques minutes. On continue d'en lire, mes enfants et moi.

Mais « fait pour quelqu'un », ça ne règle pas tout quand le quelqu'un, c'est ton enfant. Si tu es parent, tu as d'autres questions, et avec raison. Je les prends une par une, avec ce que j'ai mis en place pour chacune.

La photo de mon enfant, elle va où?

Elle sert à dessiner son personnage, une fois. La photo est d'abord vérifiée par un outil de Google, puis envoyée à Google Gemini, qui fait les illustrations, le temps de créer le dessin. Elle n'est jamais enregistrée : Toupie ne la garde nulle part. Ce qui reste, c'est le dessin. Le trajet complet d'une photo est expliqué ici.

J'utilise la version payante de Gemini justement parce que, dans la version gratuite, ce que tu envoies peut servir à entraîner les modèles de Google. Dans la version payante, Google peut conserver l'image jusqu'à 55 jours pour détecter les abus, jamais pour entraîner son IA. Et oui, ça veut dire que la photo sort du Québec, chez Google, le temps d'être vérifiée et de devenir un dessin. La Loi 25 encadre serré ce genre de transfert, et c'est écrit noir sur blanc dans la politique de confidentialité. Si une entreprise n'est pas capable de te dire clairement où passe la photo de ton enfant, c'est un plus gros signal d'alarme que n'importe quel détail technique.

Pour les amis de ton enfant, je ne demande même pas de photo : ils sont décrits avec des mots. Je n'accepte pas de photos des enfants des autres : leurs parents n'ont rien accepté, et je n'ai aucun moyen de leur demander.

Est-ce que l’IA peut sortir quelque chose qui ne devrait pas?

C'est la crainte la plus légitime, et je ne la minimise pas : un modèle qui génère du texte ou des images peut, en théorie, produire n'importe quoi. C'est pour ça que rien ne se rend jusqu'à toi sans être vérifié :

La photo que tu téléverses, avant que le personnage soit dessiné.
L'idée d'histoire que tu écris.
Chaque correction que tu fais au texte.
L'histoire générée, avant qu'elle te soit montrée.
Chaque illustration, une par une.

Le standard, c'est du contenu pour 3 à 9 ans : pas de violence, rien qui fait peur, rien de suggestif, pas de personnalités publiques. Quand une génération ne passe pas, elle est relancée automatiquement avec des consignes plus strictes, et ça ne te coûte rien de plus. Est-ce que c'est parfait? Non, aucun filtre ne l'est. Au début, le mien bloquait même « le bateau se met à glisser sur l'eau », une phrase tout ce qu'il y a de plus banale. Je l'ai changé : il laisse passer les histoires ordinaires et bloque ce qu'un parent d'un enfant de 3 ans trouverait clairement déplacé.

Qui décide de l’histoire?

Toi. Tu choisis l'idée et les personnages. L'histoire est écrite en premier, et tu peux la lire et la corriger avant qu'une seule image soit dessinée. Si une phrase ne te ressemble pas, tu la changes. Ensuite seulement, l'IA dessine. Elle ne parle pas à ton enfant, elle ne continue pas la conversation, et elle ne décide de rien après coup. C'est toi qui lis à voix haute et qui tournes les pages.

C'est ça, pour moi, la différence avec le slop : il y a quelqu'un derrière chaque livre, et c'est toi.

Ce que l’IA rate encore, pour vrai

Je serais malhonnête de te dire que tout est parfait. Le personnage ne ressemble pas toujours à ton enfant du premier coup, et il faut parfois relancer une fois ou deux. L'IA comprend mieux une activité concrète (« apprendre à faire du vélo ») qu'une idée floue (« une belle aventure »). C'est de la technologie récente, pas de la magie. Quelqu'un qui te promet une IA sans défaut essaie de te vendre quelque chose. Moi aussi, j'essaie de te vendre quelque chose, remarque. C'est justement pour ça que je te dis où ça accroche.

Au fond

Devant une image, la question que je me pose, ce n'est plus « est-ce que c'est fait avec l'IA? ». C'est « est-ce que c'est fait pour quelqu'un? » Pour les pubs et les dépliants qui se ressemblent tous, la réponse est non, et je comprends qu'on en soit tanné. Pour un livre où ton enfant se reconnaît, avec une histoire que tu as choisie et relue, je pense que la réponse est oui. Mais je suis juge et partie. C'est à toi de voir si ça te convient.

En tout cas, le livre de ski que je ne trouvais pas existe maintenant. On verra cet hiver s'il a fait sa job.

Une question qui n'a pas sa réponse ici? Écris-moi, c'est moi qui réponds.

— Charles