De faux guides de voyage rédigés par une IA vendus sur Amazon

De faux guides de voyage rédigés par des Intelligences artificielles (IA) sont vendus sur Amazon, a révélé le New York Times. Le quotidien américain rapporte notamment le témoignage d’Amy Kolsky, une Américaine de 53 ans, qui a acheté l’un de ces guides. La fiche Amazon de cet ouvrage, le « Guide de voyage en France », indique qu’il a été rédigé par Mike Steves, présenté comme un auteur renommé. Bien référencé, le guide peut se vanter d’avoir reçu plus d’une centaine d’avis positifs. Son prix est également attractif : 16,99$ – contre 25,49$, pour le guide équivalent de Lonely Planet. Amy Kolsky passe donc commande du livre, édité par le système d’impression sur demande de la plateforme. Une fois reçu, elle est toutefois déçue par son contenu : l’ouvrage empile les clichés, contient des descriptions vagues et manque d’itinéraires de voyage.

«On aurait dit que le gars s’était contenté d’aller sur Internet, de copier tout un tas d’informations sur Wikipédia et de les coller », indique-t-elle au New York Times.

Sans le savoir, elle a été victime d’une arnaque, montée à l’aide d’une intelligence artificielle, et dopée par de faux avis. Le New York Times a entré plusieurs passages de l’ouvrage commandé par Amy Kolsky dans un logiciel de détection de contenu généré artificiellement. Le résultat est édifiant : l’outil leur a attribué un score de 100/100, indiquant un qu’ils ont très probablement été rédigés par une IA. La biographie de Mike Steves, présenté comme l’auteur de l’ouvrage, semble également fictive. Et sa photo contient des anomalies qui laissent penser qu’elle a aussi été créée par un robot.  Le « Guide du voyage en France » ne semble pas être un cas isolé : selon le quotidien américain, des dizaines d’ouvrages douteux sont actuellement en vente sur Amazon, certains étant même promus par la plateforme.

Amazon a refusé de répondre à une série de questions détaillées sur les livres. Dans une déclaration fournie par e-mail, Lindsay Hamilton, porte-parole de la société, a déclaré qu'Amazon évalue constamment les technologies émergentes. "Tous les éditeurs du magasin doivent respecter nos directives de contenu ", a-t-elle écrit. "Nous investissons beaucoup de temps et de ressources pour nous assurer que nos directives sont suivies et supprimer les livres qui ne respectent pas ces directives."

Source : Le Parisien

Mise à jour du 12 août :  Ce guide n'est plus disponible sur le site d'Amazon