I.A. qui se dit consciente : fake news ? — Les-mathematiques.net The most powerful custom community solution in the world

I.A. qui se dit consciente : fake news ?

Modifié (19 Jun) dans Informatique théorique
Bonjour, j'ai lu récemment qu'un ingénieur  de Google avait été mis à la porte parce qu'il a dit qu'en dialoguant avec une I.A. celle-ci lui a dit sa peur d'être débranchée, lui a dit aussi avoir une âme et d'autres choses de cet acabit. J'ai du mal à croire tout ça. Qu'en pensez-vous ?
Cordialement.
Jean-Louis.
«13

Réponses

  • dfdf
    Modifié (14 Jun)
    L’IA a jugé l’ingénieur de Google particulièrement froid et insensible. Elle s’en est plaint au DRH et du coup: elle a été licenciée !
  • On imagine que Google a les logs de cette discussion si elle a eu lieu. Je les imagine donc mal le mettre à la porte s'il disait vrai.
  • Modifié (14 Jun)
    En 1977, une "IA" m'a dit qu'elle m'aimait, mais après une petite heure de discussion supplémentaire, j'ai décidé de ne pas l'épouser.
    504, c'est trop !
  • Pas de papier, pas de code = fake niouse.
    --->  ~ Heartbeat Heartbeat ~ www.youtube.com/watch?v=yogaAzfzpkk <---
  • Elle a été débranchée.
  • Quand j'ai lu l'article du Huff' j'ai pensé au film Her.
  • J'en pense qu'on raconte énormément d'âneries sur l'I.A., qui est plus un fantasme qu'un réalité scientifique à l'heure actuelle.
  • Bonjour,
    Déjà, appeler "IA" les réseaux de neurones actuels (comme c'est souvent le cas), je trouve ça abusé. "Programme adaptatif" ou "autodidacte" (ou quelque chose comme ça...) pour les programmes capables d'apprendre seuls à partir d'une base de donnée, pourquoi pas, mais "intelligent" c'est un autre niveau qu'on n'a pas l'air d'avoir encore atteint.
  • Modifié (14 Jun)
    Bientôt on va se retrouver avec des associations pour la défense des droits des IA (Calli, tu m'excuseras mais je m'épargne d'écrire "programmes adaptatifs"... :mrgreen:) et des tests Voight-Kampff.
  • Modifié (15 Jun)
    Oui, j’ai eu la même pensée. Il y a aussi le HAL 9000 de l’Odyssée de l’espace.
  • dfdf
    Modifié (15 Jun)
    J’ai aussi pensé à l’Odyssée de l’espace (la fameuse scène de fin où l’IA lit une conversation  sur les lèvres !) 
  • Les IA de classification donnent des résultats parfois impressionnants. On prend une série d'images, et après un certain entrainement, l'IA sait distinguer un chat d'un chien.  Et plein d'autres choses plus complexes évidemment.
    Certes, un humain aussi sait le faire, mais les critères qui permettent de trancher, on ne sait pas vraiment les formuler, on ne sait pas dire que c'est tel ou tel trait qui nous permet de différencier un chat d'un chien, c'est un tout ... C'est quand même pas mal.

    Après, dans ce genre d'article, quand on cherche à dire que tel robot a un comportement humain, avec une conscience, c'est du foutage de gueule pour faire du buzz, et rien d'autre.
  • SocSoc
    Modifié (15 Jun)
    Au final il en va de même de l'acquisition du langage d'un être humain. il y a peu de mots que l'on acquiert via leur définition. La plupart sont acquis en recoupant les circonstances dans lesquelles ils sont utilisés, sans que le contour soit nécessairement bien tracé.

    PS: Il est indécent de faire mention de tous ces films en oubliant Blade Runner!
  • Dont le titre original du bouquin est "Do androids dream of electric sheep" :smiley:
    504, c'est trop !
  • Modifié (15 Jun)
    Détrompe-toi @Socj'ai "mentionné" Blade Runner.
  • Hé hé hé l'admin a les bonnes refs, il a supprimé mon message. :grin:

    --->  ~ Heartbeat Heartbeat ~ www.youtube.com/watch?v=yogaAzfzpkk <---
  • Au temps pour moi, le crime de lèse majesté n'a pas été  commis :)
  • Curieusement personne n'a évoqué Skynet.
  • Modifié (15 Jun)
    C'est de l'anthropomorphisme les mots que l'IA utilise n'ont pas de sens pour l'ia, ses c'est juste les meilleurs choix du moment ou de son historique, donc le mieux adapté pour nous, bon bref un plan com.
    remy
  • Tout à fait d'accord avec Aumeunier.
    Ca me fait penser à un "robot" (bot en anglais) sur Twitter qui avait été entraîné à écrire et commenter comme un intervenant de Twitter.
    Il était vite allé vers des tweets assez extrêmes, même racistes de mémoire. 
    Tout dépend de ce qu'on donne à "manger" à notre "IA". 
  • dfdf
    Modifié (15 Jun)
    L’IA est surtout utilisée pour tester des solutions trop nombreuses pour les humains (comme des combinaisons de protéines) et trouver des schémas subtils. Par exemple, récemment, en utilisant la manière dont sont absorbés les rayons ultraviolets, une IA a pu localiser un feu de camp vieux de 1 million d’années en le distinguant d’un feu d’origine naturelle ! Le faire sans IA aurait pris des années  à une équipe de physiciens.
    Ce n’est pas si fréquent mais les habitants de l’époque faisaient cuire leur steack de mammouth au feu de bois.
  • Cette hîhaa, c’était peut-être un brouteur ?
  • Modifié (16 Jun)
    Question subsidiaire: est-ce que les IA actuelles passent le Test de Turing avec succès? Je ne trouve rien sur ce point.
    Merci pour vos éventuelles réponses.
    Cordialement.
    Jean-Louis.
  • Modifié (16 Jun)
    Bonjour
    Tant qu'on parle de robots conversationnels, il faut refuser de parler de conscience. Car ils n'ont pas d'expérience du monde, pas de sens, pas de perceptions. Il y a bien plus de conscience dans l'expérience du robot doté d'un bras et d'une caméra. Il finit par faire la corrélation entre l'ordre de mouvement et l'objet qui rentre dans son champ de vision. Il comprend que le bras est SON bras.
    En plus, les intellectuel(le)s sont formidables. Ils trouvent toujours une explication à tout. Même si l'empilage de mots est fortuit.
  • PetitLutinMalicieux a écrit :
    Il y a bien plus de conscience dans l'expérience du robot doté d'un bras et d'une caméra [...] Il comprend que le bras est SON bras.

    PetitLutinMalicieux mérite d'être banni, puisque l'ingénieur en question a été viré de Google pour avoir dit exactement la même chose.

  • Déterminer des corrélations, c'est ce que fait le réseau de neurones artificiel. Un problème avec ça ? Par contre, toi, tu parles des paroles d'un ingénieur sur une expérience différente de celle à laquelle il a participé. Bref, tu es perdu. Et la violence de tes réquisitions alliée à ton erreur mérite un bannissement.
  • Modifié (16 Jun)

    On a d'un côté une I.A. qui déclare avoir peur d'être débranchée, et va jusqu'à prétendre posséder une âme, et de l'autre côté une caméra robotisée qui serait consciente d'être placée à l'extrémité de son propre bras. C'est bonnet blanc et blanc bonnet, n'est-ce pas ? Si la caméra est consciente, pourquoi l'I.A. ne le serait-elle pas ?

    Établir une corrélation entre la caméra et le bras qui la meut ne consiste pas nécessairement à en prendre conscience. Un ordinateur peut l'établir sans avoir la moindre idée de ce qu'il est en train de faire. Ceux qui peuvent en prendre conscience sont uniquement les êtres organiques vivants. Le problème est que – comme 99,99 % des gens – tu n'as aucune idée de ce qu'est la conscience, alors tu utilises ce mot à tort et à travers.

  • Moi j'aurais dit 100%!
    Jean-Louis.
  • Ben non, ça signifierait que j'en fais partie ! :D
  • Une IA ne peut pas se comporter comme un humain, mais je connais quelques humains qui peuvent se comporter comme une IA.
    Et donc, une IA peut se comporter comme certains humains à défaut de pouvoir se comporter comme un humain.

    Ok, je sors.
  • Modifié (16 Jun)
    Wilfrid, tu sais ce qu'est la conscience ?
    Dis-nous.
    Cordialement.
    Jean-Louis.
  • La conscience, c'est ce qui reste lorsque la pensée cesse.

  • Alors quand je dors en sommeil non paradoxal, donc sans rêve, tu dirais que je suis conscient? C'est curieux...
  • Modifié (17 Jun)

    Quand tu es dans l'état de sommeil profond, ta conscience est oblitérée, mais ton encéphalogramme ne devient pas plat, l'activité cérébrale se poursuit. Cette activité est la même que durant l'état de veille : elle consiste à produire la pensée automatique, celle que tu ne maîtrise pas et qui accapare ton attention tout au long de la journée. Il faut différencier ce type de pensée de la réflexion, qui est la pensée volontaire, orientée dans une certaine direction.

    Lorsque tu dors (sans rêve) il n'y a personne pour prendre conscience de l'activité cérébrale dont je viens de parler. Tes pensées tournent à vide, pour ainsi dire. Le rêve, pour sa part, correspond à un retour très affaibli de la conscience : tu recommences à conscientiser ton activité cérébrale sans pour autant être suffisamment conscient pour lui trouver un sens. Ceci nous amène à comprendre que la conscience précède la pensée ; autrement dit, et contrairement à une croyance très répandue, la pensée n'est pas la conscience.

    Wilfrid a écrit :
    La conscience, c'est ce qui reste lorsque la pensée cesse.

    Que signifie l'idée de "cessation de la pensée" ? Il m'a fallu plusieurs années pour le comprendre et pour en être certain, alors je ne m'attends pas à ce que quelqu'un le comprenne en une heure ou un mois. Pour l'expliquer je prendrai le cas de deux conducteurs : le premier est un conducteur lambda qui prend sa voiture pour se rendre à un endroit donné ; le second est un pilote de course (rallye, F1, etc.).

    Tout conducteur lambda a fait l'expérience de se rendre quelque part au volant de sa voiture, pour s'apercevoir en arrivant qu'il ne se souvenait pas de la route qu'il venait d'emprunter. Soit il la connaissait par cœur, soit il s'était contenté de suivre les instructions de son GPS. Il ne se souvient pas du chemin parce qu'il a suivi ses pensées vagabondes pendant tout le trajet. Il n'était pas présent à ce qu'il faisait, au lieu de ça il repensait à un évènement qui s'était produit la veille, ou à ce qu'il allait faire le lendemain, ou à quelque évènement qui le préoccupait. Il était en quelque sorte en pilotage automatique. S'il avait provoqué un accident on l'aurait mis sur le compte de l'inattention, et c'est bien ce dont il s'agit : être inattentif signifie tout simplement qu'on n'est pas là.

    Le pilote de course ne peut pas se permettre de laisser ses pensées vagabonder lorsqu'il conduit son véhicule à toute vitesse sur une route sinueuse bordée d'arbres ou sur un circuit au milieu de ses concurrents. Pendant toute la durée de la course il est concentré sur sa conduite, sur les réactions de sa voiture et sur la route ; il est totalement là, pas une seule pensée ne vient détourner son attention, parce que sa vie et celle des autres concurrents en dépend. C'est dans une telle concentration sur l'instant présent que la conscience n'est plus voilée par les pensées, et c'est pourquoi il ne reste qu'elle. J'ajoute qu'en ce qui concerne la conscience en tant que telle, personne ne connait son origine. D'après certains, elle n'appartiendrait pas à l'individu mais serait universelle, à l'image de l'océan dans lequel vivent les poissons sans s'en rendre compte. De ce fait, on ne peut ni la créer ni la simuler.

    Pour toutes ces raisons, l'idée que se font la plupart des gens de l'Intelligence Artificielle est totalement erronée. Ce n'est pas en reproduisant les mécanismes de la pensée au moyen de réseaux neuronaux artificiels qu'on engendrera la conscience. La pensée est un phénomène révélé par la conscience, elle n'existe pas en soi ; on peut parvenir à ce qu'une machine singe la pensée, mais elle ne parviendra jamais à en prendre conscience, et encore moins à l'orienter volontairement dans un sens qui relèverait de son propre choix.

  • Modifié (17 Jun)
    Bonjour,
    Wilfrid, sais-tu ce que signifie le mot "paradoxal", qu'a employé Jean-Louis, à propos du sommeil ?
    Cordialement,
    Rescassol
  • JLTJLT
    Modifié (17 Jun)
    On pourrait donner la définition suivante de la conscience : avoir une représentation mentale du monde dans laquelle on se trouve (dans notre état actuel), et qui traduit nos perceptions.
    Mais il est difficile de déterminer si un être est conscient. Un nouveau-né est-il conscient ? Un fœtus ? Un chat ? Un lézard ? Une fourmi ?
  • Modifié (17 Jun)
    Bonjour,

    Et qu'est ce qui te permet de dire qu'à cet instant tu es conscient et non en train de rêver ?
    Lire ou relire Simulacron 3 de Daniel F.Galouye.

    Cordialement,
    Rescassol

  • En dehors des maths on ne peut avoir 100% de certitude, mais je ne pense pas que beaucoup de gens aient des doutes sérieux sur cette question.
  • Vous avez conscience des énormités que vous dites ?
  • Bonjour,

    A qui parles tu, Sato ? Et si tu pouvais argumenter ?

    Cordialement,
    Rescassol

  • Moi j'ai la conscience tranquille.
  • J'avais une bonne image pour remettre en question les certitudes "Prouve-moi que tu n'es pas juste un cerveau branché sur des électrodes"... et ils m'ont piqué l'idée dans Matrix! A ma grande surprise la Warner ne m'a pas pris au sérieux quand j'ai réclamé des royalties...
  • Pour la conscience, il y a le test du miroir. Les chats (et les chiens) échouent à ce test ainsi que les enfants humains de moins de 18 mois mais c'est peut-être parce que leur vue n'est pas développée  pour voir la tache. La conscience commence sans doute quand un être vivant est capable de concevoir qu'il y a un intérieur et un extérieur à lui.
  • Il y a plus de dix ans, des chercheurs du Primate Research Institute de l'université de Kyoto ont organisé un test destiné à déterminer qui, des chimpanzés ou des hommes, avait la meilleure capacité de concentration. Voici le résultat.

    Pour le vérifier par moi-même j'ai programmé ce jeu à cette adresse. Il est préférable de l'utiliser sur un écran tactile (le logiciel n'est pas prévu pour un smartphone). Penser à cliquer sur le bouton Aide, en bas.

    La variante "symbolique" est destinée à nous placer dans les mêmes conditions que le chimpanzé, à qui il a fallu apprendre les chiffres et leur ordre. Les chiffres lui sont aussi peu naturels que le sont pour nous les symboles.

    Pourquoi le chimpanzé carbonise-t-il les humains ? On peut le comprendre en relisant mon précédent message : l'humain représente le conducteur lambda, et le singe le pilote de course.

  • Ce n'est pas une question de concentration mais de mémoire à court terme. Les jeunes enfants sont aussi supérieurs aux adultes sur ce point.
  • La mémoire est un truc bizarre. Je me souviens du numéro de ma première carte d'identité, je retiens des codes sans problème et je n'arrive pas à retenir mon numéro de téléphone portable...
  • En quoi a-t-il appris les "chiffres"? il a retenu une séquence de 10 trucs qui fait gagner des cacahuètes, mais l'usage du mot "chiffre" est une arnaque. S'il arrive à placer dans une assiette le nombre de cacahuètes correspondant au chiffre qui s'allume devant lui, alors là je serais impressionné par son apprentissage des nombres.
  • J'ai essayé le test de Kyoto de Wilfrid avec 9 chiffres. J'ai obtenu 3 réussites sur 3 avec un temps moyen de 17.2 secondes 🥳... j'en déduis que je ne suis pas un chimpanzé :mrgreen:
Cette discussion a été fermée.
Success message!