Mauvaise en mathématiques, en histoire ou en logique : les débuts de Lucie, une IA générative française, sont laborieux. Ce week-end, le chatbot a rapidement montré ses limites à cause de ses fausses réponses, et suscité bien des moqueries. L’accès à Lucie a depuis été désactivé, et les concepteurs sont intervenus pour calmer le jeu.

Saviez-vous que Hérode le Grand, roi de Judée, était également connu pour avoir « joué un rôle important dans le développement de la bombe atomique » ? Ou bien que le calcul 5(3+2) peut donner à la fois 17 et 50 ? Ou qu’à la question de savoir quelle heure est-il un quart d’heure avant minuit, la bonne réponse est une heure quinze du matin ?

Toutes ces absurdités ont un même dénominateur commun Lucie, une toute jeune intelligence artificielle (IA) qui a été l’objet de nombreuses moqueries sur les réseaux sociaux ces jours-ci. Ce système d’IA générative, qui fonctionne en principe comme les célèbres plateformes ChatGPT, Gemini ou Grok, a été à côté de la plaque régulièrement.

Source : Capture d'écran
Pas très bon en maths. // Source : Capture d’écran

En mathématiques, elle aurait dû donner la réponse 25, car les calculs entre parenthèses ont ici la priorité par rapport à la multiplication. En histoire, Hérode n’a bien sûr tenu aucun rôle dans la création de la bombe, car il a vécu dans l’Antiquité. Quant au raisonnement pour trouver la bonne heure, la réponse attendue était évidemment 23h45.

Ces exemples, parmi d’autres qui ont circulé ce week-end, notamment sur X (ex-Twitter), n’ont pas que suscité des plaisanteries. Des internautes se sont inquiétés qu’une IA générative soit lancée avec de telles lacunes — elle a été rendue publique le 23 janvier. D’autres n’ont pas pu s’empêcher de noter l’écart visiblement colossal avec la fine fleur de l’IA générative.

lucy accueil
La page d’accueil de Lucie, qui n’accepte pour les inscriptions à l’heure actuelle. // Source : capture d’écran

Une IA censée pouvoir servir dans l’éducation

Pour Lucie, une IA made in France, le contraste est d’autant plus rude que ses débuts ont lieu à peine quelques jours après la mise à jour de DeepSeek, une IA générative chinoise dont les capacités ont été remarquées (nonobstant la large censure du service pour ne pas répondre aux questions génantes). La plus récente version de DeepSeek (« R1 ») date du 20 janvier.

Si Lucie a autant attiré l’attention sur elle, c’est aussi en raison des projets à long terme qui lui sont associés. Comme le pointait le 23 janvier le compte officiel dédié aux Lettres géré par éduscol, le portail national d’information et d’accompagnement des professionnels de l’éducation en France, cette IA est censée être « adaptée pour le monde de l’éducation courant 2025. »

Source : Capture d'écran
Ni en lecture des lettres. // Source : Capture d’écran

De fait, d’aucuns se sont naturellement alarmés que l’on puisse mettre entre les mains des élèves et des professeurs un produit aussi peu abouti. Cela, alors que la page d’accueil de Lucie est pourtant décrite comme « fiable », « transparente » et « ouverte », et par ailleurs « guidée par des principes d’équité et de responsabilité. »

Initialement, l’accès public à Lucie était censé durer un mois, selon éducsol. Mais l’expérimentation a tourné court : il n’est actuellement plus possible de se servir du chatbot. En revanche, un message en surimpression — une « note d’informations » — apparaît à l’écran pour clarifier « sur ce que Lucie peut ou ne peut pas faire dans son état actuel. »

Un projet sorti trop tôt, sans explication et sans garde-fous

Ainsi, il a été rappelé que c’est « un projet de recherche académique encore en phase initiale » et « qu’aucun travail spécifique n’a été réalisé avec l’Éducation Nationale pour personnaliser ou adapter le modèle à un usage éducatif ». Il ne fallait pas s’en servir « dans des contextes éducatifs ou de production », en tout cas pour cette version.

Lucie est développée par Linagora, un éditeur de logiciels libres français, avec l’appui d’OpenLLM-France et du Secrétariat général à l’investissement. Une IA souveraine, ouverte, soutenue par EDF et le CNRS, et ayant bénéficié d’un accès au supercalculateur Jean Zay du Grand Équipement National de Calcul Intensif (GENCI) pour l’entraînement.

Source : Lucy
Selon les concepteurs, Le nom Lucie fait référence à « Lucy », l’ancêtre commune à toute l’humanité, et au personnage de Luc Boesson qui parvient à maîtriser toutes les connaissances de l’humanité. Son visage s’inspire à la fois de Marianne, symbole de la France républicaine, et de Scarlett Johansson, l’héroïne du film.

« Nous n’aurions pas dû sortir le service lucie.chat sans ces explications et précautions d’usage. […] Nous allons donc nous y reprendre pour mieux expliquer notre démarche. Pour cela, nous avons besoin de calme et de temps. Aussi, nous préférons fermer temporairement l’accès à la plateforme lucie.chat », conclut le message.

Indéniablement, des garde-fous seront requis pour le retour de Lucie. En effet, un autre message d’alerte pointait que le chatbot ne disposait « d’aucune prévention systématique contre les usages inappropriés », sans calibrage des réponses et avec des réglages minimaux. En somme, c’était une « version brute », avec des risques de biais et d’erreurs.

À ce stade, on ignore quand Lucie sera de nouveau accessible et s’il sera possible de l’adapter dès cette année au monde de l’éducation, comme c’était suggéré. Il y a encore quelques jours, à l’occasion des vœux, les promoteurs de Lucie jugeaient que 2025 démarrait bien avec la naissance de Lucie. Finalement, l’année s’est ouverte avec un faux pas.

Découvrez les bonus

+ rapide, + pratique, + exclusif

Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.

Découvrez les nombreux avantages de Numerama+.

S'abonner à Numerama+

Vous avez lu 0 articles sur Numerama ce mois-ci

Il y a une bonne raison de ne pas s'abonner à

Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.

Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :

  • 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
  • 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
  • 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.

Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.

S'abonner à Numerama+

Abonnez-vous à Numerama sur Google News pour ne manquer aucune info !