Ne vendons pas notre âme à l'IA

Sylvain

Je ne donne pas 50 ans pour que les rêves soient contrôlés par le gouvernement via un neuralink obligatoire implanté à la naissance ou autre abomination du même acabit. Mais skyffer maintiendra qu'on sera plus riche qu'on ne l'est actuellement.

df

Il est clair que ça va être l'horreur ! Et ce sera d'autant plus l'horreur que le brave citoyen lambda ne comprendra rien à la complexité des systèmes qui l'asservissent. Il n'aura aucun contrôle sur eux !
...

Bound

Concernant le neuralink obligatoire et les autres horreurs, cela n'arrivera que si les gens restent passifs face à cette emprise de l'élite sur le reste de la société. Si les gens réagissent(ce qui est possible car il faut remarquer qu'Internet est une invention aussi majeure que l'imprimerie dans le domaine de l'information et que l'invention de l'imprimerie a fait des révolutions), alors cela n'arrivera pas mais il ne faut pas oublier que la technologie est là pour le meilleur comme pour le pire. En effet de la même manière que l'imprimerie nous a libéré du contrôle de la monarchie absolue sur l'information, Internet nous libérera peut-être des politiciens et de la presse non indépendante(9 milliardaires contrôlent 90% de l'information en France). Je crois qu'il faut garder un certain optimisme et se dire que les choses peuvent changer.

Fin de partie

Bound a écrit:

Internet nous libérera peut-être des politiciens et de la presse non indépendante

Ce n'est pas ce qui se passe en ce moment.
C'est toujours le même processus.
Cela me rappelle l'essor des radios libres.

Combien reste-t-il de "radios libres" en France?
Au début des "bricoleurs" s'approprient un outil et il règne une joyeuse anarchie.
Mais rapidement si l'outil peut générer des bénéfices il sera récupéré presque en totalité par le monde de l'argent.
C'est ce qui s'est passé aussi avec l'internet.

PS:
Sans l'invention de l'imprimerie le contrôle sur des milliards d'humains serait nettement plus difficile à mettre en place.

Bound

@Fin de partie Je pense que vous avez raison sauf sur un point: les choses peuvent changer car Internet est incontrôlable. En effet, le Deep Web et les cryptomonnaies limitent le contrôle des puissants. Il n'y a qu'à voir en Chine où les VPN sont utilisés massivement alors que le contrôle d'Internet a été mis très rapidement. De même, l'algorithme de Youtube ont tendance à favoriser les candidats politiques minoritaires et ayant des idées économiques et sociétales alternatives. Sans compter que les failles de sécurité et les bugs peuvent mener à une cyberguerre dans laquelle les attaquants sont favorisés (et ce avec peu de moyens car parfois quelques ordinateurs peuvent suffire) par-rapport aux défenseurs souverains(qui doivent mettre en place une gigantesque armée de développeurs pour prévenir ces attaques). C'est bien parce que les élites veulent nous faire croire que la situation est sous leur contrôle alors qu'il n'en est rien, que les choses peuvent changer. Je pense qu'on est sur le point d'un changement sociétal majeur et que tout peut changer si les gens en ont la volonté.

Algèbre

Ventre saint gris : la conversation a avancé. Merci de ta réponse Bound.

Curiosité : à quoi ça ressemble de la musique d'IA?

Chalk

Le grand soir révolutionnaire est pour bientôt d'après Nathalie, afin de libérer tout ce peuple français écrasé par les gouvernements qui ne pensent qu'à les affamer aux profits des riches exploitants. On me dit que les départs vers le Vénézuela sont en baisse pourtant, va comprendre.

En attendant, un article de plus qui confirme que le niveau de vie et le confort se sont très largement améliorés en 50 ans : http://www.lemonde.fr/les-decodeurs/article/2018/05/21/1968-2018-logement-consommation-etudes-comment-la-france-a-change-en-cinquante-ans_5302144_4355770.html

Quant au délire de Sylvain sur les neuralinks, si ses prédictions sont au même niveau que celles qu'il nous donne sur Goldbach ... Il y a 30 ans il aurait dit la même chose des puces électroniques avec GPS insérées de force chez tous les bébés. On attend toujours ...

Enfin, quand il nous dit que c'est très honorable de ne pas travailler pour être riche, il a raison. Mais c'est encore plus honorable de laisser chacun choisir ses ambitions dans sa vie. C'est facile de vivre modestement si c'est votre but. Alors félicitons-nous que l'IA permette aussi à ceux qui le veulent de réussir une carrière de scientifique dans le privé plus facilement qu'auparavant.

Sylvain

Il y a 30 ans j'étais en CP et n'avais aucune notion sur le GPS. Mes prédictions comme tu les appelles ont au moins le mérite d'être réfutables.

cuvedepr

Mais je suis d'accord sur un point : ce n'est pas l'IA, le problème, c'est ce que les personnes qui sont au pouvoir en feront.

justement une IA évoluée ne se laisse pas manipuler par les désirs de ceux qui en ont l'utilisation
Si elle est digne d'intérêt et de respect elle les enverra de là où ils viennent ...c'est à dire sur nos arbres à manger des bananes comme le font nos autres frères (les autres singes)
eh puis au fond ça ne sera que justice pour eux en tout cas quand on voit comment ils sont traités dans les zoos par les gens qui viennent les visiter

Enfin j'espère qu'elle y arrivera parce que franchement sinon ça restera nulle comme intelligence et le but ça n'est pas de fabriquer une I.A. idiote non?

cuvedepr

oui je sais vous allez penser que ça n'est pas de notre intérêt

mais si on va par là ….c'est quoi l'intérêt?(je cite Dostoïevski 'carnets du sous sol' livre VII)
tout ne fonctionne pas comme ça ….

bon ça se fera et acceptons -le déjà : on montrera qu'on est plus intelligents que ceux qui verront ça au dernier moment

cuvedepr

NB : sur Dostoïevski de son livre VII qui parle de ça justement (pourtant à l'époque les ordinateurs n'existaient même pas mais il avait compris l'idée du smilblick de ce sujet sur l'IA et sa relation avec l'humain)

justement L'IA n'est pas sensée se comporter comme le décrit Dostoïevski et comme elle n'est pas sensée se comporter comme ça l'humain est forcément foutu à moins d'aller contre son intérêt mais justement si il va contre son intérêt il est foutu

conclusion ; l'humain est condamné d'avance avec ou sans IA mais après faut être malin et chercher à devenir une autre entité(dans la nature les animaux survivent souvent grâce à des leurres qui les camouflent)

je cite ce qu'il dit :

Mais ce sont là que des rêves dorés. Oh, dîtes moi qui a dit le premier, qui a énoncé le premier que si les hommes faisaient des saletés, c’est seulement qu’ils ne connaissaient pas leurs véritables intérêts? qu’il suffisait de les éclairer, de leur ouvrir les yeux sur ces intérêts véritables pour qu’ils arrêtent à l’instant de faire leurs saletés - que, s’ils sont éclairés sur leur véritable profit, s’ils le comprennent, ils deviendront honnêtes et bons en un clin d’œil et que c’est dans le bien qu’ils verront ce profit, car on sait bien que personne ne peut agir sciemment contre son intérêt, qu’ils feront donc le bien, pour ainsi dire, par nécessité. O pauvre enfant! O pur et innocent bébé! Mais, tout d’abord, quand donc avez-vous vu, dans tous les millénaires, que les hommes n’agissaient que dans leur intérêt? Que faites-vous de ces millions d’actions qui témoignent que les hommes, en toute conscience, c’est-à-dire dans la pleine compréhension de leur intérêt véritable, le laissent au deuxième plan pour se lancer sur un autre chemin, celui du risque, du hasard, sans y être forcés par rien ni par personne, comme si, justement, ils voulaient tout sauf une route balisée, et qu’ils s’en ouvrent une autre, avec obstination, sans aucune raison - une autre, absurde, plus pénible, dont c’est tout juste s’ils ne se l’ouvrent pas dans les ténèbres? Parce que, n’est-ce pas, c’est leur obstination et leur lubie qu’ils préfèrent à leur intérêt... Un intérêt... Qu’est-ce que c’est donc, un intérêt? Et puis, pouvez-vous prendre sur vous de définir à coup sûr ce qui est intéressant pour l’homme? Et que se passerait-il si cet intérêt, certaines fois, certaines fois, non seulement pouvait, mais devait consister, justement, à se souhaiter non pas ce qui est profitable, mais ce qui est le pire? Et s’il en est ainsi, si ce genre de situations peut se produire, alors, c’est toute votre loi qui tombe à l’eau. Qu’en dites-vous, ces situations existent? Vous riez; riez, messieurs, mais répondez; ce qui profite à l’homme peut-il toujours être établi sans un risque d’erreur? N’y a-t-il pas des cas qui, non seulement n’entrent pas, mais ne peuvent pas entrer dans une classification? Parce que, messieurs, autant que je le sache, votre grand registre de nos intérêts, vous l’avez pris dans la moyenne des chiffres statistiques et des formules des sciences de l’économie. Vos intérêts, qu’est-ce que c’est? Le bien-être, la richesse, la liberté, le calme, etc.; de sorte que les hommes, qui, par exemple, iraient délibérément à l’encontre de cette liste ne seraient, d’après vous, rien d’autre que des obscurantistes, ou carrément des fous, n’est-ce pas? Mais, une chose étonnante; comment se fait-il que toutes ces statistiques, ces sages, ces amis du genre humain, énumérant les intérêts des hommes en oublient toujours un? Ils ne le prennent même pas en compte au sens où il le faudrait, et c’est pourtant de cela que leur calcul dépend. Le malheur ne serait pas bien grand, si on le prenait, cet intérêt, pour l’inclure sur la liste. Mais là est toute la catastrophe, que cet intérêt si fameux n’apparaît dans aucune classification, ne trouve sa place dans aucune liste. Par exemple, j’ai un ami... D’ailleurs, messieurs, c’est votre ami à vous aussi; et de qui donc, oui, de qui donc n’est-il pas l’ami? En se mettant à faire quelque chose, ce monsieur-là vous expliquera tout de suite, d’une manière claire et pontifiante, comment il faut agir précisément selon les lois de la raison et de la vérité. Bien plus: c’est avec feu et émotion qu’il vous peindra les véritables intérêts de l’espèce humaine, ses intérêts normaux; il accusera d’un ton moqueur ces taupes imbéciles qui ne comprennent ni leurs intérêts ni la vraie signification de la vertu; et - un quart d’heure, à peine, plus tard, sans aucune raison impondérable ou extérieure, non - par on ne sait quelle raison tout à fait intérieure, bien plus puissante que tous ses intérêts, il vous sortira une chose exactement inverse, il se placera en contradiction flagrante avec ce qu’il vient de dire: contre les lois de la raison, contre ses propres intérêts, bref, contre tout... Je vous préviens que cet ami est un personnage collectif, c’est pourquoi il me semble délicat de l’accuser tout seul. Mais c’est ce que je dis, messieurs: n’existe-t-il pas réellement quelque chose qui est plus cher à presque tous les hommes que leurs intérêts les plus grands, ou bien (pour ne pas aller contre la logique), est-ce qu’il n’existe pas un intérêt qui est le plus intéressant (celui-là même que tout le monde omet, et dont je viens de parler), un intérêt primordial, plus intéressant que tous les autres intérêts et au nom duquel, si cela s’avère nécessaire, les hommes sont prêts à braver toutes les lois - parfaitement, à se dresser contre le bon sens, l’honneur, le calme, le bien-être - bref, à se dresser contre tout ce qui est utile et beau, dans le seul but d’atteindre cet intérêt premier, cet intérêt le plus intéressant et qui leur est plus cher que tout?
- Bah, ça reste un intérêt, répliquez-vous, m’interrompant. Attendez donc, messieurs, nous aurons le temps de nous expliquer, il ne s’agit pas de faire des calembours, mais de ceci: cet intérêt-là est d’autant plus remarquable qu’il détruit toutes nos classifications et qu’il démolit constamment tous les systèmes imaginés par les amis du genre humain pour le bonheur du genre humain; que, bref, il dérange tout le monde... Mais avant de vous le nommer, cet intérêt, je veux me compromettre personnellement et c’est pourquoi j’affirme, comme par défi, que tous ces beaux systèmes, ces théories pour expliquer à notre humanité ses intérêts réels et naturels afin que son nécessaire élan pour les atteindre, ces intérêts, l’emplisse immédiatement de bonté et de noblesse, que, tous donc, ils ne sont pour le moment, à mon avis, que de la fausse logique! Car enfin, ne serait-ce qu’affirmer cette théorie d’une régénération du genre humain dans son ensemble par un système fondé sur ses propres intérêts, c’est, d’après moi, ou peu s’en faut, la même chose... eh bien, qu’affirmer, par exemple, à la suite de Buckle, que l’homme s’adoucit avec la civilisation et que, par conséquent, il devient moins sanguinaire et moins capable de faire la guerre. La logique veut que ça paraisse vrai. Mais l’homme est à ce point esclave de son système et de ses conclusions abstraites qu’il est prêt, en toute conscience, à déformer la vérité, prêt à ne plus rien voir, à ne plus rien entendre, du moment qu’il justifie mieux cette logique. Voilà pourquoi je prends ça en exemple, c’est un exemple trop frappant. Regardez autour de vous: le sang coule à grands flots, et d’une façon tellement joyeuse, encore, on dirait du champagne. Et c’est cela, notre XIXe siècle dont Buckle fut le contemporain. Regardez Napoléon le Grand, et celui d’aujourd’hui. Regardez l’Amérique du Nord - cette union perpétuelle. Regardez, enfin, cette caricature qu’est le Schleswig-Holstein... Qu’est-ce donc qu’elle adoucit en nous, la civilisation? Tout ce fait la civilisation, c’est qu’elle amène à une plus grande complexité de sensations... absolument rien d’autre. Je parie même que, cette complexité se développant, elle peut aller jusqu’au point où elle nous fera découvrir des plaisirs jusque dans le sang. Cela s’est déjà produit. Avez-vous remarqué que les buveurs de sang les plus raffinés furent presque tous les hommes les plus civilisés qui soient, même si les Attila et les Stenka Razine ne leur arrivaient pas à la cheville, parfois, et que, s’ils sont peut-être moins visibles qu’Attila et les Stenka Razine, c’est simplement qu’ils sont devenus communs, trop ordinaires, qu’ils sont rentrés dans le rang? La civilisation, si elle n’a pas rendu les hommes plus sanguinaires, a conféré à cette cruauté quelque chose de plus sale, de plus odieux. Avant, les hommes voyaient dans le meurtre un acte de justice, ils étripaient donc qui ils devaient sans remords de conscience; maintenant, nous avons beau savoir que le meurtre est une saloperie, nous la pratiquons de plus belle, cette saloperie, et encore plus qu’avant. Qu’est-ce qui est pire? - A vous de décider. Il paraît que Cléopâtre (passez-moi cet exemple d’histoire romaine) aimait enfoncer des épingles dorées dans les seins de ses servantes et qu’elle trouvait une jouissance dans leurs tortillements et dans leurs cris. Vous me direz que cela se passait à une époque qu’on pourrait dire relativement barbare; que maintenant aussi, c’est une époque barbare parce que, maintenant aussi (toujours relativement parlant) on enfonce des épingles; que maintenant aussi, même si les hommes ont su apprendre quelquefois à se faire une vision plus claire qu’aux époques barbares, ils sont loin d’avoir appris à agir selon ce que leur dictent les sciences ou la raison. Et, néanmoins, vous êtes toujours persuadés qu’ils finiront bien par apprendre, quand on ne sait quelles ancestrales et détestables habitudes seront définitivement passées, que le bon sens et les sciences réunis les rééduqueront de fond en comble et dirigeront leur humaine nature vers sa voie naturelle. Vous êtes persuadés qu’alors, c’est d’eux-mêmes qu’ils cesseront de se tromper volontairement et que, pour ainsi dire, c’est malgré eux qu’ils ne chercheront plus à séparer leur liberté de leurs intérêts normaux. Bien plus: alors, dites-vous, c’est la science en tant que telle qui apprendra aux hommes (encore que là, ce soit même du luxe, à mon avis) qu’en fait, ils n’ont ni volontés ni caprices, qu’au fond, ils n’en n’ont jamais eu, et qu’ils ne sont eux-mêmes rien d’autre que des espèces de touches de piano, ou des goupilles d’orgue; et que, en plus de tout cela, il y a encore les lois de la nature; de sorte que tous les actes qu’ils font ne se font pas selon leur volonté, mais par eux-mêmes, d’après les lois de la nature. Il suffit donc de découvrir ces lois de la nature et l’homme pourra cesser de répondre de ses actes, ce qui simplifiera sa vie d’une façon considérable. Toutes les actions humaines seront d’elles-mêmes classées selon ces lois, mathématiquement, un peu comme des tables de logarithmes, jusqu’à 108000, elles seront inscrites à l’almanach; ou, mieux encore, on pourra voir paraître des éditions utiles du genre de nos dictionnaires encyclopédiques, où tout sera noté et codifié avec une telle exactitude qu’il n’y aura plus jamais d’actes ni d’aventures. - Alors - c’est toujours vous qui parlez - s’instaureront de nouvelles relations économiques, toutes prêtes à l’usage, calculées, elles aussi, avec une exactitude mathématique, de sorte qu’en un instant disparaîtront tous les problèmes possibles et imaginables, pour cette unique raison, en fait, qu’ils trouveront toutes les réponses possibles et imaginables. Alors, on verra se construire un palais de cristal. Alors... Bon, bref, c’est l’Oiseau bleu qui nous rendra visite. Evidemment, nul ne peut garantir d’aucune façon (c’est moi qui parle maintenant) qu’alors, disons, la vie ne sera pas mortellement ennuyeuse (parce que, à quoi sert de faire quoi que ce soit, si c’est déjà inscrit sur une tablette?), mais elle sera parfaitement raisonnable. Certes, que n’inventerait-on pas quand on s’ennuie! Car les épingles d’or, c’est aussi par ennui qu’on les enfonce - mais laissons ça. Ce qui est moche (c’est encore moi qui parle), c’est qu’on pourrait bien voir les hommes se réjouir de ces épingles d’or. Parce que l’homme est bête, phénoménalement bête. C’est-à-dire, il est loin d’être bête, mais il est tellement ingrat que rien au monde ne l’est plus que lui. Moi, par exemple, ça ne m’étonnerait pas du tout, de voir surgir, comme ça, sans prévenir, en plein milieu de cette raison régnante, un monsieur au physique ingrat, ou, pour mieux dire, rétrograde et sarcastique, qui se mettrait les deux mains sur les hanches et qui dirait: Dites-donc, messieurs, est-ce qu’on ne pourrait pas l’envoyer valdinguer, toute cette raison, d’un seul coup de pied, seulement pour envoyer ces logarithmes au diable, et pour vivre à nouveau selon notre liberté stupide? Ca, encore, ce n’est rien, mais le malheur, c’est qu’il trouvera obligatoirement des partisans: l’homme est ainsi fait. Et tout cela, pour cette raison tellement idiote qu’il serait malséant, sans doute de la mentionner: c’est que les hommes, partout et de tout temps, qui qu’ils puissent être, aiment agir comme ils le veulent, et non comme le leur dictent la raison et leur propre intérêt; vouloir contre son intérêt est non seulement possible, c’est quelquefois positivement obligatoire (cela, c’est déjà mon idée). Leur volonté particulière, libre, affranchie de contraintes, leur caprice individuel, fût-il le plus farouche, leur fantaisie, exacerbée parfois jusqu’à la folie même - c’est bien cela, cet intérêt omis, ce plus profitable de tous les profits, qui n’entre dans aucune classification et qui envoie perpétuellement au diable tous les systèmes et toutes les théories. Car quoi, où les savants ont-ils pu bien trouver que les hommes ont besoin de je ne sais quelle volonté naturelle, de je ne sais quelle volonté de vertu? Ce dont les hommes ont besoin - c’est seulement d’une volonté indépendante, quel que soit le prix de cette indépendance, et quelles que soient ses conséquences. Bon, et la volonté, le diable sait de quoi...