Qu’est-ce que BERT ?
BERT (acronyme de « Bidirectional Encoder Representations from Transformers ») est le surnom donné par Google à un changement majeur dans la manière dont fonctionne son moteur de recherche. Avec cette mise à jour, l’entreprise américaine souhaite répondre plus efficacement aux requêtes des internautes, en tenant compte des mots-clés utilisés et surtout de la manière dont ils sont agencés les uns aux autres.
Fondamentalement, BERT doit permettre de comprendre le « sens » d’une requête et, donc, la signification des mots qui sont utilisés dans un contexte précis. En somme, il ne s’agit plus de prendre les termes isolément, mais de les comprendre selon leur voisinage. Or, cela nécessite de tenir compte de certains éléments d’une requête qui étaient jusqu’à présent délaissés, parce que jugés secondaires.
BERT est considéré comme l’une des plus grandes mises à jour du fonctionnement de Google depuis plusieurs années, à la fois par son ampleur (l’entreprise estime qu’entre une requête sur dix et une requête sur cinq sera désormais concernée par ce changement) et par sa technicité. La dernière en date à avoir connu une telle attention est sans doute RankBrain, qui se focalise sur les requêtes ambiguës ou inconnues.
Mais avant d’être une mise à jour d’un moteur de recherche, BERT est le fruit d’un travail de recherche sur le traitement automatique du langage naturel, qui a donné lieu à un papier scientifique sur Arxiv, en octobre 2018. Ces recherches sont disponibles sur GitHub, sous une licence ouverte. Cette documentation pourrait d’ailleurs intéresser d’autres moteurs concurrents pour affiner leurs propres résultats.
Qu’est-ce que ça donne ?
Pandu Nayak, le vice-président de la recherche au sein de Google, donne un exemple assez clair du changement que BERT induit : auparavant, dans une requête demandant à Google s’il est possible d’aller récupérer un médicament à la pharmacie pour un tiers, le moteur de recherche se focalisait sur « récupérer », « médicament » et « pharmacie ». Il ne tenait pas compte d’un passage pourtant clé : « autrui ».
Désormais, BERT est capable de comprendre que le retrait d’un traitement n’est pas pour vous, mais de toute évidence pour un proche. Par conséquent, le résultat qui sera mis en avant sera une page du ministère américain de la Santé et des Services sociaux, qui répond justement à cette interrogation. Et cela, même si elle peut être très ancienne : en l’espèce, Google a montré que cela a fait remonter une page de 2002.
Pandu Nayak.
Source : Google
Un autre exemple : en tapant les mots « livres d’exercices de maths pour adultes », Google avait tendance à zapper la dernière partie, celle pour les adultes. Or là encore, ce ne sont pas n’importe quels manuels qui sont recherchés ici : ce sont des bouquins qui s’adressent à un public précis. La mise à jour des algorithmes de classement doit ainsi répondre plus finement aux attentes du public, en liant les mots les uns aux autres autres.
Ces exemples peuvent évidemment sembler triviaux pour un esprit humain, qui sait très bien donner du sens aux mots en les faisant résonner entre eux. Mais c’est une autre paire de manches que de transcrire cela dans un programme informatique. Surtout lorsque les internautes n’utilisent pas forcément les termes les plus justes pour exprimer ce qu’ils ont en tête.
Pour illustrer ce point, Pandu Nayak prend l’exemple du verbe « changer », qui est employé à toutes les sauces : « comment changer la luminosité de mon écran », au lieu d’ajuster ; « comment changer une ampoule », au lieu de remplacer ; ou encore, « comment changer les réglages de ma configuration », au lieu de modifier. C’est toute la difficulté des mots, qui peuvent être synonymes, polysémiques et ambigus.
Dois-je mieux formuler mes requêtes ?
Dans la mesure où BERT est censé mieux comprendre le langage naturel, c’est-à-dire le sens d’une recherche en tenant compte des différents termes employés, est-ce que cela veut dire qu’il va falloir arrêter de se prendre pour monsieur Jourdain et de jeter vos mots-clés dans n’importe quel ordre ? En fait, la réponse à cette question peut être à la fois oui… et non.
Évidemment, plus vous formulerez une requête précise avec des termes adéquats, plus Google sera capable de vous apporter des résultats correspondant à votre demande. Mais pour autant, même si vous placez vos termes de manière désordonnée, Google restera en mesure de les traiter. Interrogé à ce sujet par Numerama, Pandu Nayak le confirme : les autres outils de compréhension de Google restent d’actualité.
D’ailleurs, toutes les requêtes ne vont pas bénéficier de BERT. Google estime qu’entre 10 et 20 % des recherches le seront, ce qui est une portion plutôt modeste. C’est toutefois loin d’être anodin au regard des milliards de demandes auxquelles l’entreprise fait face chaque jour et au fait que BERT bénéficiera aussi aux contenus affichés dans des encarts dédiés (les « snippets »).
Quelles limites ?
Si BERT va indéniablement améliorer l’expérience des recherches web, Google admet que son outil n’est pas forcément utile dans toutes les circonstances. Pandu Nayak donne le cas par exemple d’une recherche sur « tartan » qui est, rappelle Wikipédia, une étoffe de laine à carreaux de couleurs, typique des peuples celtes. Avec BERT, les résultats étaient plutôt textuels, alors qu’un support visuel peut être plus utile.
Dans d’autres cas de figure, BERT n’a pas toujours bien saisi le sens de la question. À l’internaute qui demande « quel est l’État au sud du Nebraska », BERT ne donnait plus la réponse « Nebraska », avec un extrait de la page Wikipédia dans lequel on pouvait lire que le Kansas est l’État au sud. À la place, BERT évoquait « South Nebraska », une localité qui se trouve en… Floride.
Dernier cas de figure donné exemple par Pandu Nayak : Google s’est rendu compte que sur une recherche classique en espagnol, les résultats sont d’ordinaire donnés en espagnol. Mais avec BERT, ce sont aussi des pages en anglais qui ont été retournées, alors que la formulation de l’internaute suggère qu’il comprend l’espagnol et qu’il peut donc avoir une réponse dans cette langue.
Afin de ne pas affaiblir la qualité de recherche, Google a d’abord procédé à des essais pour déterminer s’il y avait un recul quelconque, en demandant une évaluation entre le résultat d’avant et celui proposé par BERT. C’est en tenant compte de ces mesures que la mise à jour proposée par Google, bien qu’importante, a un périmètre d’action plutôt restreint. Du moins, pour le moment.
Quand BERT sera-t-il déployé ?
BERT est d’ores et déjà actif sur les requêtes passées en anglais, depuis octobre 2019. Concernant les autres langues, Google a commencé le lundi 9 décembre à déployer la mise à jour. Pandu Nayak indique que le déploiement nécessite quelques jours. Plus de 70 langues seront concernées par BERT, dont le français, le russe, l’italien, le japonais, l’espagnol, le coréen, l’allemand ou encore le portugais.
+ rapide, + pratique, + exclusif
Zéro publicité, fonctions avancées de lecture, articles résumés par l'I.A, contenus exclusifs et plus encore.
Découvrez les nombreux avantages de Numerama+.
Vous avez lu 0 articles sur Numerama ce mois-ci
Tout le monde n'a pas les moyens de payer pour l'information.
C'est pourquoi nous maintenons notre journalisme ouvert à tous.
Mais si vous le pouvez,
voici trois bonnes raisons de soutenir notre travail :
- 1 Numerama+ contribue à offrir une expérience gratuite à tous les lecteurs de Numerama.
- 2 Vous profiterez d'une lecture sans publicité, de nombreuses fonctions avancées de lecture et des contenus exclusifs.
- 3 Aider Numerama dans sa mission : comprendre le présent pour anticiper l'avenir.
Si vous croyez en un web gratuit et à une information de qualité accessible au plus grand nombre, rejoignez Numerama+.
Vous voulez tout savoir sur la mobilité de demain, des voitures électriques aux VAE ? Abonnez-vous dès maintenant à notre newsletter Watt Else !
