zhōng guó中国dì yī lì第一例“AI huàn juéAI幻觉”àn案xuān pàn宣判
Quand tout le monde utilise l'IA, avez-vous remarqué qu'elle dit parfois des bêtises 'sérieusement' ?
Ce phénomène s'appelle « hallucination d'IA ».
Récemment, le tribunal internet de Hangzhou a rendu un jugement sur la première affaire en Chine causée par une « hallucination d'IA ».
Voici ce qui s'est passé : M. Liang utilisait un logiciel d'IA pour rechercher des informations universitaires.
Les informations fournies par l'IA étaient non seulement erronées, mais lorsque M. Liang a signalé les erreurs, l'IA a affirmé avec assurance : « Si les informations que je fournis sont erronées, je vous dédommagerai de 100 000 yuans. »
M. Liang s'est senti induit en erreur et a poursuivi en justice la société développant l'IA, demandant une compensation.
Après examen, le tribunal a estimé que l'IA n'est pas une véritable « personne » et n'a pas de personnalité juridique, donc la « promesse de compensation » faite par l'IA lors de la conversation ne représente pas une décision officielle de la société.
Le juge a expliqué que l'IA générative actuelle est un type de service, et non un produit ordinaire.
Comme la technologie est encore en développement, l'IA ne peut garantir une précision à 100 %.
Tant que la société avertit clairement les utilisateurs que « le contenu peut être inexact » et met en place des mesures de sécurité, cela ne constitue pas une infraction.
Finalement, le tribunal a rejeté la demande de compensation de M. Liang.
Pourquoi l'IA dit-elle parfois des bêtises ?
Les experts expliquent que l'IA « devine » en fait le mot suivant en se basant sur une probabilité mathématique ; elle ne comprend pas vraiment les faits sous-jacents.
Si les données d'apprentissage contiennent des erreurs, elle donnera des réponses erronées.
Cette affaire nous enseigne que l'IA est un bon assistant, mais pas une autorité absolue.
Lorsque nous utilisons les informations fournies par l'IA, nous devons vérifier par nous-mêmes et garder notre esprit critique.
L'IA est un outil, et le vrai jugement reste entre nos mains humaines.