I.A. qui se dit consciente : fake news ?
Bonjour, j'ai lu récemment qu'un ingénieur de Google avait été mis à la porte parce qu'il a dit qu'en dialoguant avec une I.A. celle-ci lui a dit sa peur d'être débranchée, lui a dit aussi avoir une âme et d'autres choses de cet acabit. J'ai du mal à croire tout ça. Qu'en pensez-vous ?
Cordialement.
Jean-Louis.
Jean-Louis.
Cette discussion a été fermée.
Réponses
J'affirme péremptoirement que toute affirmation péremptoire est fausse
Déjà, appeler "IA" les réseaux de neurones actuels (comme c'est souvent le cas), je trouve ça abusé. "Programme adaptatif" ou "autodidacte" (ou quelque chose comme ça...) pour les programmes capables d'apprendre seuls à partir d'une base de donnée, pourquoi pas, mais "intelligent" c'est un autre niveau qu'on n'a pas l'air d'avoir encore atteint.
Certes, un humain aussi sait le faire, mais les critères qui permettent de trancher, on ne sait pas vraiment les formuler, on ne sait pas dire que c'est tel ou tel trait qui nous permet de différencier un chat d'un chien, c'est un tout ... C'est quand même pas mal.
Après, dans ce genre d'article, quand on cherche à dire que tel robot a un comportement humain, avec une conscience, c'est du foutage de gueule pour faire du buzz, et rien d'autre.
PS: Il est indécent de faire mention de tous ces films en oubliant Blade Runner!
J'affirme péremptoirement que toute affirmation péremptoire est fausse
Ca me fait penser à un "robot" (bot en anglais) sur Twitter qui avait été entraîné à écrire et commenter comme un intervenant de Twitter.
Il était vite allé vers des tweets assez extrêmes, même racistes de mémoire.
Tout dépend de ce qu'on donne à "manger" à notre "IA".
Ce n’est pas si fréquent mais les habitants de l’époque faisaient cuire leur steack de mammouth au feu de bois.
Merci pour vos éventuelles réponses.
Cordialement.
Jean-Louis.
PetitLutinMalicieux mérite d'être banni, puisque l'ingénieur en question a été viré de Google pour avoir dit exactement la même chose.
On a d'un côté une I.A. qui déclare avoir peur d'être débranchée, et va jusqu'à prétendre posséder une âme, et de l'autre côté une caméra robotisée qui serait consciente d'être placée à l'extrémité de son propre bras. C'est bonnet blanc et blanc bonnet, n'est-ce pas ? Si la caméra est consciente, pourquoi l'I.A. ne le serait-elle pas ?
Établir une corrélation entre la caméra et le bras qui la meut ne consiste pas nécessairement à en prendre conscience. Un ordinateur peut l'établir sans avoir la moindre idée de ce qu'il est en train de faire. Ceux qui peuvent en prendre conscience sont uniquement les êtres organiques vivants. Le problème est que – comme 99,99 % des gens – tu n'as aucune idée de ce qu'est la conscience, alors tu utilises ce mot à tort et à travers.
Et donc, une IA peut se comporter comme certains humains à défaut de pouvoir se comporter comme un humain.
Ok, je sors.
Dis-nous.
Cordialement.
Jean-Louis.
La conscience, c'est ce qui reste lorsque la pensée cesse.
Quand tu es dans l'état de sommeil profond, ta conscience est oblitérée, mais ton encéphalogramme ne devient pas plat, l'activité cérébrale se poursuit. Cette activité est la même que durant l'état de veille : elle consiste à produire la pensée automatique, celle que tu ne maîtrise pas et qui accapare ton attention tout au long de la journée. Il faut différencier ce type de pensée de la réflexion, qui est la pensée volontaire, orientée dans une certaine direction.
Lorsque tu dors (sans rêve) il n'y a personne pour prendre conscience de l'activité cérébrale dont je viens de parler. Tes pensées tournent à vide, pour ainsi dire. Le rêve, pour sa part, correspond à un retour très affaibli de la conscience : tu recommences à conscientiser ton activité cérébrale sans pour autant être suffisamment conscient pour lui trouver un sens. Ceci nous amène à comprendre que la conscience précède la pensée ; autrement dit, et contrairement à une croyance très répandue, la pensée n'est pas la conscience.
Que signifie l'idée de "cessation de la pensée" ? Il m'a fallu plusieurs années pour le comprendre et pour en être certain, alors je ne m'attends pas à ce que quelqu'un le comprenne en une heure ou un mois. Pour l'expliquer je prendrai le cas de deux conducteurs : le premier est un conducteur lambda qui prend sa voiture pour se rendre à un endroit donné ; le second est un pilote de course (rallye, F1, etc.).
Tout conducteur lambda a fait l'expérience de se rendre quelque part au volant de sa voiture, pour s'apercevoir en arrivant qu'il ne se souvenait pas de la route qu'il venait d'emprunter. Soit il la connaissait par cœur, soit il s'était contenté de suivre les instructions de son GPS. Il ne se souvient pas du chemin parce qu'il a suivi ses pensées vagabondes pendant tout le trajet. Il n'était pas présent à ce qu'il faisait, au lieu de ça il repensait à un évènement qui s'était produit la veille, ou à ce qu'il allait faire le lendemain, ou à quelque évènement qui le préoccupait. Il était en quelque sorte en pilotage automatique. S'il avait provoqué un accident on l'aurait mis sur le compte de l'inattention, et c'est bien ce dont il s'agit : être inattentif signifie tout simplement qu'on n'est pas là.
Le pilote de course ne peut pas se permettre de laisser ses pensées vagabonder lorsqu'il conduit son véhicule à toute vitesse sur une route sinueuse bordée d'arbres ou sur un circuit au milieu de ses concurrents. Pendant toute la durée de la course il est concentré sur sa conduite, sur les réactions de sa voiture et sur la route ; il est totalement là, pas une seule pensée ne vient détourner son attention, parce que sa vie et celle des autres concurrents en dépend. C'est dans une telle concentration sur l'instant présent que la conscience n'est plus voilée par les pensées, et c'est pourquoi il ne reste qu'elle. J'ajoute qu'en ce qui concerne la conscience en tant que telle, personne ne connait son origine. D'après certains, elle n'appartiendrait pas à l'individu mais serait universelle, à l'image de l'océan dans lequel vivent les poissons sans s'en rendre compte. De ce fait, on ne peut ni la créer ni la simuler.
Pour toutes ces raisons, l'idée que se font la plupart des gens de l'Intelligence Artificielle est totalement erronée. Ce n'est pas en reproduisant les mécanismes de la pensée au moyen de réseaux neuronaux artificiels qu'on engendrera la conscience. La pensée est un phénomène révélé par la conscience, elle n'existe pas en soi ; on peut parvenir à ce qu'une machine singe la pensée, mais elle ne parviendra jamais à en prendre conscience, et encore moins à l'orienter volontairement dans un sens qui relèverait de son propre choix.
Wilfrid, sais-tu ce que signifie le mot "paradoxal", qu'a employé Jean-Louis, à propos du sommeil ?
Cordialement,
Rescassol
Et qu'est ce qui te permet de dire qu'à cet instant tu es conscient et non en train de rêver ?
Lire ou relire Simulacron 3 de Daniel F.Galouye.
Cordialement,
Rescassol
A qui parles tu, Sato ? Et si tu pouvais argumenter ?
Cordialement,
Rescassol
Il y a plus de dix ans, des chercheurs du Primate Research Institute de l'université de Kyoto ont organisé un test destiné à déterminer qui, des chimpanzés ou des hommes, avait la meilleure capacité de concentration. Voici le résultat.
Pour le vérifier par moi-même j'ai programmé ce jeu à cette adresse. Il est préférable de l'utiliser sur un écran tactile (le logiciel n'est pas prévu pour un smartphone). Penser à cliquer sur le bouton Aide, en bas.
La variante "symbolique" est destinée à nous placer dans les mêmes conditions que le chimpanzé, à qui il a fallu apprendre les chiffres et leur ordre. Les chiffres lui sont aussi peu naturels que le sont pour nous les symboles.
Pourquoi le chimpanzé carbonise-t-il les humains ? On peut le comprendre en relisant mon précédent message : l'humain représente le conducteur lambda, et le singe le pilote de course.