Re: ChatGPT erreur!!!

[Albert ARIBAUD <albert AT aribaud.net>]

Le samedi 21 janvier 2023 à 00:16 +0100, Frederic Zulian a écrit :
> C'est quand même très curieux. Lorsque je lui  cite  ses deux
> réponses en demandant s'il n'y a pas une incohérence entre les deux.
> Il s'excuse !

C'est tout sauf curieux.

ChatGPT ne *comprend* pas les textes qu'on lui soumet. Il ne fait que
les traiter comme une séquence de "mots" et produire en retour, d'après
le corpus de texte (encore une fois : vus comme de simples séquences de
mots) qu'il a ingéré,  une autre séquence de "mots" qui a la meilleure
probabilité de suivre la "question".

Du coup, quand dans une question, une (sous-)séquence "matche" des
séquences de son corpus fréquemments suivies d'une séquence d'excuse,
alors il produit une (sous-)séquence d'excuses.

À la rigueur, ce que ça montre, c'est que dans son corpus, dans les
textes qui contenaient des mises en doute, la majorité de ces mises en
doutes étaient suivies d'excuses polies -- et encore.

> 
Du reste, je suis sûr que si on *démarre* une session avec ChatGPT
(idéalement depuis un compte qui ne l'a *jamais* utilisé jusqu'ici) et
que dès le départ on lui dit qu'il s'est trompé sur la masse de l'anti-
neutrino en lui citant deux réponses qu'il est supposé avoir faites et
qui sont contradictoires, il présentera des excuses aussi.

Cela dit, si sa réaction est "Eh, c'est quoi ton problème au juste, là
? Qu'est-ce que tu viens m'embrouiller avec tes problèmes de neutrinos
? Tu veux qu'on se batte, c'est ça ?", prière de me prévenir :) (mais
dès maintenant je précise : vaudra mieux disposer d'une preuve
irréfragable que c'est bien arrivé).

Il ne faut surtout pas voir dans ces énémenents un indice d'une forme
de raisonnement de ChatGPT, il n'en a *aucun* (oui, je me répète, mais
c'est nécessaire), et il a encore moins (si, si) de méta-raisonnements
sur ses raisonnements.

Amicalement,
Albert.