Ne vendons pas notre âme à l'IA

Bonjour,

J'ai lu ce court article. Alain Connes a un avis tranché, mais ces arguments sont tronqués : il choisit de ne voir que des aspects négatifs et reproche à l'IA des choses dont elle n'est pas responsable. Donc son avis sur le sujet ne vaut rien : lorsqu'on est incapable de prendre du recul et d'analyser objectivement les opportunités et les risques de l'IA, on ferait mieux de passer son chemin. Dommage qu'il ne mette pas sa capacité d'analyse en oeuvre sur ce sujet.

[size=medium]Les foyers des découvertes issus de l'intelligence artificielle sont toutefois pluriels :
- reconnaissance de motifs en tant qu'aide à la décision aux diagnostics médicaux
- équipements à degrés de liberté accrus; pour les robots et le véhicule autonome
- résolutions diverses de jeux de stratégies, transposables dans les organisations
- traitement du langage naturel et d'images en synthèse et reconnaissance alliées
- réseaux de neurones habiles à l'auto-apprentissage et à l'amélioration continue ![/size]

Quel type de tests ![size=medium][/size] :-S

Ca me rappelle les joueurs de GO il y a quelques années quand on leur disait que les ordi allaient bienôt les battre à plate couture....

Le résultat est glaçant. L'ordinateur n'a fait que recombiner des éléments préexistants dont on lui a dit qu'ils étaient constitutifs du style de Rembrandt. On cherche en vain dans ce portrait la petite touche d'originalité, de folie qui aurait permis à la machine de se démarquer... d'une machine. Par exemple il aurait pu figurer un objet à côté du portrait, un indice biographique sur le sujet peint... Les possibilités créatives sont infinies ! Mais l'ordinateur n'en a utilisé aucune.
L'art restera pour longtemps la prérogative des humains.

ps: la démarche qui a conduit à cette "création" est déjà douteuse en soi. Elle présuppose que tout artiste peut-être réduit à une série d'éléments "significatifs" qu'un algorithme se chargera de prédigérer pour mieux le resservir.
...

Ce tableau n'a strictement aucun intérêt. Reproduire à l'infini des peintures ou dessins intégrant tels ou tels élément ou ''dans le style de'', ça existe depuis longtemps, par exemple en Chine des dessinateurs et peintres font ce style de peinture à toute vitesse au km et mécaniquement (à vendre aux touristes en occident!)
Tout ce que produit l'IA jusqu'à maintenant ce sont des ânerie de ce genre ou bien des trucs bourrins de traitement d'énormes bases de données, ok tant mieux ça fait gagner du temps.
Au sujet du Go, voire ce que dit Alain Connes à ce sujet, c'est du bon sens. Normal que les champions à ce jeux qui doivent se croire très très intelligents n'aient pu admettre qu'une machine puisse les battre.

Quant à la littérature...Il suffit de voir le résultat du programme qui était supposé tenir des conversations simplissime en ligne et qui s'est mis à insulter ses interlocuteurs et à tenir des propos racistes et incohérents assez rapidement...Alors Madame Bovary :-D

Tout ça pourquoi ? Car de très grosses firmes essaient de justifier le détournement d'une partie de la richesse produite, qui revenait aux Etats par le biais de l'impôt jusqu'à il y a peu, pour promouvoir des recherches dans des domaines qu'ils ont intérêt à développer pour être encore plus puissantes ou pour satisfaire les lubbies et les sottises d'une minorité de privilégiés travaillant dans ces domaines.
Évidemment il s'agit de persuader la grande masse des gens que leur fric est utilisé pour le bien de l'humanité (en fabriquant des robots qui ressemble à des humains ou des voitures qui conduisent toutes seules..)

Tout ce que produit l'IA jusqu'à maintenant ce sont des ânerie de ce genre.

C'est amusant de lire ce fil, en pensant Inspecteur Académique à chaque fois je lis IA.

Mouais, je ne vois pas pourquoi les découvertes de nouvelles stratégies par les ia ne seraient pas des inventions mais celles découvertes par les humains en seraient.

La seule intelligence dans l'IA se trouve au niveau de ceux qui programment en utilisant des algorithmes connus.

Pour ce qui est de l'article d'Alain Connes, j'ai du mal à voir en quoi ce n'est pas impressionnant qu'un programme en jouant contre lui même au go pendant quelques mois retrouve tout seul 300 ans de stratégies du jeu et même un peu plus visiblement.

Cela reste dans les objectifs de l'informatique : faire ce qui est humainement impossible mais qu'un humain pourrait commencer.

Il n'est pas précisé le prix de l'âme.

S

@Shah : tu as des preuves de ce que tu avances ? Le réductionnisme n'est peut-être pas aussi légitime qu'on le pense.

Bonjour,
@Sylvain C'est très simple. Si le cerveau est composé uniquement d'atomes, il est possible de le simuler en simulant uniquement les atomes. Cela semble impossible en pratique avec un ordinateur classique mais l'est peut-être avec un ordinateur quantique.Il existe peut-être des méthodes plus rapides.

Bonjour,
Je ne sais pas si l'esprit est un processus matériel mais quand même : ceux qui disent le contraire essuient défaite sur défaite. Ils disaient que l'immortalité n'est pas dans la nature et les méduses sont immortelles : voir ici, ils disaient que les ordinateurs sont incapables d'écrire des livres : voir ici... Je ne sais pas qui a raison mais j'ai mon idée sur la question.
Quant à ceux qui pensent que la physique n'exclue pas que quelque chose ne soit pas matérielle, la physique est et a toujours été basée sur les mathématiques qui sont simulables.

Bonjour,
Je suis bien d'accord avec vous sylvain sur ce point là mais il existe des moyens de simuler mathématiquement ces photons et ces ondes gravitationnelles et de les intégrer dans un modèle puisqu'ils sont liés à la matière(la matière émet les photons et les ondes gravitationnelles). De même les tachyons s'ils existaient violeraient le principe de causalité(je me suis un peu renseigné là-dessus).

Quoi qu'il en soit, les machines écrivent des romans et composent des musiques ou des oeuvres architecturales, se voyant classés aux compétitions !



« Le jour où un ordinateur écrit un roman »
avril 4, 2016 par digital8815

Le Hoshi Shinichi Literary Award est un concours de romans japonais et à sa dernière édition on a pu recenser 1450 candidats, dont 11 qui étaient en fait des intelligences artificielles. L’intelligence artificielle définit l’intelligence que l’on donne à l’intelligence des machines et des logiciels. Et parmi ces écrivains virtuels, l’un d’entre eux a même réussi à se qualifier pour la finale, avec son roman : Le jour où un ordinateur écrit un roman.

Cette intelligence artificielle, en particulier, a été développée par l’université japonaise d’Hakodate. Les scientifiques à la base de cette intelligence artificielle auraient fourni pour informations, le sexe des personnages principaux, la description du sujet et une sélection de phrases et de propositions à utiliser.

C’est à partir de ces données que l’ordinateur a été capable d’écrire son roman, les autres détails concernant l’algorithme n’ont pas été dévoilés.IA

En dehors de l’opinion des membres du jury, qui n’était d’ailleurs pas au courant de la « particularité » de l’auteur, l’écrivain Satoshi Hase, un romancier japonais, a exprimé son opinion sur le roman « je fus surpris du travail, car c’est un roman très structuré. Même s’il reste quelques problèmes à corriger avant qu’il puisse gagner le prix, comme la description des personnages ». Le problème pour l’ordinateur serait donc, la complexité des intelligences humaines, leurs imprévisibilités. Une variable humaine qui représente un obstacle pour l’ordinateur.

Cependant le créateur de cette intelligence artificielle, Hitoshi Masuraba, s’explique satisfait et même confiant quant au futur. Il imagine déjà un robot qui serait capable de « surpasser le talent le talent humain ». SI les robots étaient jusqu’à aujourd’hui connus, cela été pour « résoudre des problèmes qui ont des solutions ». Maintenant l’idée serait « d’amplifier le potentiel des IA afin de les approcher le plus possible de la créativité humaine. »

Le roman, écrit par l’ordinateur, se termine sur ces phrases :

« J’ai frémis d’une joie que j’ai connue pour la première fois et j’ai continué d’écrire avec enthousiasme. Le jour où un ordinateur a écrit un roman. L’ordinateur, plaçant sa quête de plaisir au-dessus de tout, cessa de travailler pour les humains ».

Cette dernière phrase traduit mon opinion et ma curiosité sur l’Intelligence artificielle. En effet si, comme l’explique le développeur de ce projet, le potentiel des IA continue d’être développé, nous pouvons nous demander, quel genre de sensibilité nous rencontrerons et quel futur cela ouvrera-t-il ?

Elodie BOUVART M1C09."

Le titre du fil me semble un peu excessif.
Personnellement, je ne pose aucun jugement sur les gens qui choisissent de travailler dans l'IA. Je me souviens encore des plaisirs que j'ai eus à faire mes premiers programmes, en particulier divers jeux de stratégie, toutes choses qui imitaient des fonctionnements humains. Je me doute bien que ceux qui bossent dans l'IA en ressentent des joies violentes, comme dirait le personnage de Westworld.
Ceci étant posé, étant donnés les défis (je pense en particulier à l'écologie, à l'énergie, à la pauvreté) qui sont posés aujourd'hui à l'espèce humaine, ça ne me semble pas très avisé de pousser massivement les intelligences à s'investir dans un champ dont l'essentiel des applications semble servir le consumérisme, le divertissement ou le militaire.

Le problème à la base de vos dérives est d'origine sémantique; car il existe deux sortes d'IA: l'IA forte autarcique versus l'IA faible accompagnée.
Une idée prédominante anxiogène est d'assimiler l'univers de l'IA à la lutte manichéiste entre l'humain et la machine jouxtant l'infini des possibles.
En réalité, les deux fonctionnent de concert, l'un alimentant de son impulsion cognitiviste, potentielle et éthique l'autre au service d(es) humanités.
Sur l'ensemble de conforts offerts et à offrir, l'impulsion originelle alimentant les circuits reste de source biologique évoluée et dotée de la décision.
A ce jour, les synapses artificielles nanoneurones sont capables d'apprendre seules et reconnaître des chiffres prononcés par différents locuteurs.
Des nanomédicaments circulent dans l'organisme et des drones sont gérés pour reboiser des surfaces gigantesques et secourir des populations !
Alors, écrire une oeuvre en prose (e)prouvant la complexité des schémas linguistiques maîtrisés n'est que la face émergée de l'iceberg des aides.
Si l'esprit collectif nouveau sert à résoudre les 'soucis' de demain, c'est que la 'pensée' ancienne n'a guère suffi a les aborder de front en solutions.
Une arborescence existe avec tous les axes d'évolution incluant la santé, l'écologie, l'éducation, l'environnement: l'IA est partout, par et pour l'être.

JLT a écrit:

...: les intelligences qui se consacreraient à l'IA sont plutôt celles qui aiment les mathématiques et la programmation, mais ce n'est pas le cas de tous les types d'intelligence (humaine).

Il n'y a pas incompatibilités de genres sans aller jusqu'au transhumanisme car c'est le code informatique qui est la brique de base des productions.
Le mythe naïf de la singularité se substitue en natif au volume; qui ne nie les transformations massives face auxquelles s'adapter à vitesse inédite.

@aléa Depuis que la capitalisme existe, à chaque fois qu'il y a eu un progrès technologique, cela a amplifié les inégalités et donc les problèmes d'écologie et de pauvreté et cela n'est pas près de changer à moins qu'il y ait un changement sociétal majeur.
@Blueberry Ce n'est pas parce qu'une structure est quasi infinie, qu'elle ne peut pas être codée, il suffit de coder les éléments de base(neurones,synapses,cellules gliales) et de les assembler(le code n'a qu'à réalisé l'assemblage comme il le fait déjà pour les neurones formels ou n'importe quel autre simulation de système complexe). Ce projet n'a rien de risible puisqu'il est déjà envisagé par des chercheurs comme le montre le Human Brain Project.

@Bound : Ah bon, on est plus pauvre depuis le progrès technologique ? On vit moins bien ? On travaille plus ? Le travail est plus dur ? Manque de bol c'est tout le contraire depuis plusieurs siècles. On vit mieux, travail moins fatiguant, plus de loisirs, plus de vacances, une activité intellectuelle accrue, etc. C'est de la fake news de faire croire qu'en moyenne on vit moins bien qu'il y a un siècle, et le progrès technologique y est pour beaucoup. Les pauvres d'aujourd'hui sont bien mieux lotis que ceux d'il y a 100 ans. On n'éradiquera pas la pauvreté, le seuil de pauvreté étant défini comme un décile par rapport au revenu moyen (sauf à vouloir un monde où tout le monde gagne pareil). Ce qui compte c'est que les pauvres puissent vivre de mieux en mieux.

Pour ceux qui ont peur de l'IA, j'espère qu'ils n'enseignent pas la régression linéaire. Eh oui, c'est déjà de l'IA (on apprend un modèle sur des données), c'est même par là que les cours commencent généralement. L'IA n'est ni bonne ni mauvaise, c'est juste une famille de méthodes mathématiques qu'on peut appliquer à bon ou mauvais escient. Si un jour on pourra travailler encore moins pour un meilleur niveau de vie, l'IA aura sûrement sa part à jouer.

@JLT : sur les données de médecine c'est tout sauf un problème. Inutile de tester l'IA sur des millions d'humains, il suffit comme le fait IBM je crois d'apprendre sur les données déjà existantes. Par exemple sur des bases de données de scanner avec les résultats cancer ou non (ce qu'on sait forcément à un moment ou un autre).

Quant à Alain Connes, c'est cool de demander de ne pas vendre son âme à l'IA, mais à qui doit-on la vendre alors ? À la finance ? Ou bien on doit rester pauvre après tout ?

Pour une fois dans l'histoire que l'expertise se trouve parfois mieux rémunérée que le management, et que ces mathématiques font rêver même le grand public, on aurait attendu de quelqu'un de la stature de M. Connes d'encourager ce mouvement qui bénéficie aux scientifiques.

Je suis entièrement d'accord avec ça. Mais comme tu le dis très bien c'est un problème politique. Rien n'empêcherait le progrès technologique (y compris l'IA, qui pourra tout impacter à terme) d'être au service de l'écologie et de la production d'énergie verte.

Des travers sont possibles, et sur le progrès je suis effectivement optimiste. Le passé ma donné raison (c'était le sens de mon message), mais ça n'empêche pas que le futur puisse me donner tort. La politique a aussi un rôle à jouer pour que le progrès soit bénéfique et partagé. Le progrès bien utilisé ne peut qu'améliorer nos vies (c'est presque un pléonasme).

@Blueberry : personne ne dit que l'IA c'est magique (sauf ceux qui n'y comprennent rien). Oui l'apprentissage se fait avec des données (l'humain non plus ne part pas de zéro, et l'IA est capable d'apprendre de manière non supervisée pour certaines tâches) et l'IA n'est pas encore au niveau de HER :-D

Mais il y a un truc dont il faut se rappeler. Le graal de l'IA à l'époque c'était de battre Kasparov aux échecs. Puis quand ça a été fait on a dit que finalement c'était trop simple, le vrai graal c'était le GO avec une complexité inouïe. Puis quand ça a été fait on s'est dit finalement que ce n'était qu'un jeu, le graal ce serait une IA créative, qui peint, ou qui fait de la musique. Ça aussi ça a été fait, et les humains n'ont pas su dire que la musique venait d'une IA. On pourra toujours pousser plus loin le seuil de ce qu'on appelle une IA jusqu'à ce qu'elle soit indiscernable de l'intelligence humaine. Toujours est-il que les progrès ont été fulgurants (et sur des applications bien moins grand publiques aussi), même si ça ne veut pas dire que ça continuera.

C'est quoi le vrai problème ? L'IA ou bien le gouvernement autocratique qui s'en sert ? Avec ce prétexte on s'interdit toute recherche qui pourrait être détournée pour un tel gouvernement alors qu'elle nous serait bénéfique. On nous a trop reproché de nous mêler de politique intérieure, alors laissons les autres pays en faire ce qu'ils veulent et de notre côté améliorons notre quotidien. De toute façon ils ne se gêneront pas pour travailler sur l'IA eux aussi. Alors essayons de ne pas être largué plutôt que de prendre (encore une fois) la prochaine révolution technologique dans les dents et de la subir.