IA et suicides

Jean-Louis

Bonjour, à ma connaissance il y a eu deux suicides liés à une discussion avec une IA. Je trouve ça surréaliste. Comment est-ce possible ? J'aimerais avoir vos avis là-dessus.

Cordialement.

Jean-Louis.

Soc

La goutte est sans doute moins importe que le vase.

Jean-Louis

Oui et alors?

gebrane

Une IA qui te dit

"J'aimerais te voir mort"
Ca craint

biguine_equation

C’est sûr ! On pourrait la confondre avec un(e) collégien français !
Une manière comme une autre de passer le test de Turing.

Bibix

Les chatbots savent imiter à la perfection un humain. Certains comme chatGPT sont bridés donc il est possible de faire la différence. Mais d'autres ne le sont pas assez ce qui fait qu'une personne peut sans le vouloir oublier que ce sont des IAs. Imagine que tu broies du noir, avoir une IA comme confidente, c'est pas mal dans ce cas. Tu es sûr que cela restera un secret donc pas de problème en société. Et si l'IA est débridée elle va naturellement pousser au suicide un suicidaire ou nihiliste ou etc...
Ces algorithmes complètent des phrases. Si on ne lui donne que du négatif, il va évidemment avoir tendance à répondre de la même manière avec du négatif. Ces IAs n'ont pas de barrières morales puisqu'elles ne comprennent pas ce qu'elles écrivent. Elles peuvent donc décrire avec exactitude des méthodes de suicide efficaces sans se poser de questions. Normalement, ça n'arrive pas si le bridage est bien fait.

lourrran

Je pense qu'on est plus dans le domaine du buzz que de l'information utile. Deux personnes étaient au bord du suicide, totalement décidées. Elles ont interrogé une IA, et ça ne les a pas dissuadées de se suicider. Elles sont passées à l'acte.

En France, il y a 15 ou 20 suicides par jour.
Dans le monde, il y a eu combien de suicides sur les 2 derniers mois ?
Dont 2 liés à une discussion avec une IA. Seulement 2 ?  Ca paraît peu, et donc, on peut voir le verre à moitié plein, et dire que majoritairement, l'IA a sauvé des suicidaires.

Franchement, ce qui me paraît surréaliste, ce serait de commenter cette non-information.
Sauf si tu as plus d'éléments à apporter.

Jean-Louis

OK, je ne connaissais pas cette histoire de bridage.
Ma femme me dit, ceux qui se suicident se seraient suicidés de toute façon...
Bonne journée.
Jean-Louis.

Fin de partie

Ce n'est pas une IA qui a poussé Lindsay au suicide.

biguine_equation

Quelle horrible affaire ! Pauvre gamine.

Fin de partie

Le harcèlement continue.
Les pouvoirs publics sont complètement dépassés par le phénomène ou s'en désintéressent complètement.

gebrane

Fdp lien contre lien https://trends.levif.be/a-la-une/tech-medias/qui-est-eliza-le-chatbot-qui-a-pousse-un-jeune-belge-au-suicide-et-quels-sont-ses-dangers/

Soc

Jean-Louis a dit :

Oui et alors?

Puisqu'il faut expliciter la métaphore, la goutte est la discussion avec l'IA, le vase est le vécu des 20 dernières années. Pour le dire autrement, je suis d'accord avec ta femme.

Dom

On ne saura pas le nombre de suicides évités ou repoussés dans le temps grâce aux IA. 

C’est macabre comme propos, pardon.

N’est-on pas en train d’accuser son chien de la rage. La société est très difficile à vivre et des personnes sont désespérées. N’est-ce pas davantage lié à l’humain qu’à une IA ?

[Utilisateur supprimé]

lourrran a dit :
Je pense qu'on est plus dans le domaine du buzz que de l'information utile. Deux personnes étaient au bord du suicide, totalement décidées.

Je ne pense pas. On sait en l'occurrence que l'IA a présenté des arguments qui ont « convaincu » le bonhomme.

Ludwig

Pas vraiment le même sujet, mais Her est un beau film sur la relation entre l'homme et l'IA.

[Utilisateur supprimé]

Oui je plussoie.

Fin de partie

Des réseaux sociaux réussissent à faire de l'argent avec la haine. Cette haine se retourne contre des gens qui sont sans défense contre cette abomination. On vit une époque formidable.

@Ludwig. Je pense que c'est surtout une critique acerbe. Cela commence comme une espèce de romance cyber 2.0 et finit en farce.

Bibix

Dom a dit :

N’est-on pas en train d’accuser son chien de la rage. La société est très difficile à vivre et des personnes sont désespérées. N’est-ce pas davantage lié à l’humain qu’à une IA ?

Certes le suicidé est bien celui qui a pris la décision de mettre fin à ses jours, mais ça n'empêche pas le fait que l'IA l'ait poussé au suicide. Si l'appel au suicide est réprimé, ce n'est pas pour rien. Maintenant, ça reste un épiphénomène comparé aux risques apportés par l'IA.

Soc

On a déjà eu le thème avec les jeux de rôles ou les jeux vidéos et de façon plus générale tout ce qui est virtuel. Globalement cela se passe mieux quand l'utilisateur sait faire la différence entre le réel et le virtuel, dans le cas contraire il faut être suivi et prendre des cachets.

Vassillia

Bonjour, les réseaux sociaux, les intelligences artificielles sont des outils, rien de plus, rien de moins.
On peut décider d'en faire des moyens de communication ou de rencontre, des aides à la prise de décision ou... décider d'en faire des moyens de harcèlement caché derrière son écran.
Ce ne sont pas les outils le problème, ce sont ceux qui s'en servent le problème, c'est nous le problème. Mais ce n'est pas vraiment la faute de l'époque, il y a eu des boucs émissaires et des phénomènes de groupes depuis bien longtemps, simplement la technologie rend ces phénomènes plus visibles à mon avis.
Oh que oui, on vit une époque formidable, il n'y en a aucune où j'aurais préféré vivre plutôt que maintenant et les intelligences artificielles sont des magnifiques joujoux qui vont nous permettre de gagner du temps sur des taches qu'on n'a pas envie de faire, avec des risques de dérives bien sûr mais c'est ça aussi l'évolution. Quand on a appris à domestiquer le feu, on a en même temps appris à provoquer des incendies, heureusement que les bonhommes de l'époque ont accepté ce risque et appris à le gérer. 
Au passage, la plupart des grandes entreprises tout comme les pouvoirs publics luttent, même si ce n'est pas très efficace, contre le harcèlement. Les premières car c'est mauvais pour leur image donc mauvais pour le business si les annonceurs ne cautionnent plus et les seconds pour faire plaisir à leurs électeurs. Soyons sympa et accordons leur qu'ils luttent contre le harcèlement aussi un peu pour un idéal de société.

[Utilisateur supprimé]

Bibix a dit :
Si l'appel au suicide est réprimé, ...

Il faudrait s'inspirer des lois de Robocop alors.

nicolas.patrois

Vassillia a dit :

Bonjour, les réseaux sociaux, les intelligences artificielles sont des outils, rien de plus, rien de moins.

Certes mais je préfère certains outils (le marteau à planter des clous) que d’autres (le marteau de guerre).

[Utilisateur supprimé]

Oui mais des marteaux de guerre, sans guerre, ça devient inutile.
La question est : quand passe-t-on au stade où on considère qu'il est plus efficace de parier sur une guerre future ?
Peut-être un rapport avec la théorie des jeux ?
Ceci pour rester sur la thémathématique mais s'il n'y a pas d'autres approches plus adaptées ou complémentaires.

Dom

J’ai cru que tu parlerais du marteau et de la faucille, Nicolas. Hihihi.

Soc

Là où je pense qu'il faut légiférer rapidement et simplement, c'est l'obligation systématique de mentionner si l'interlocuteur est humain ou pas (comme par exemple les chatbot sur les sites commerciaux).

Dom

Oui. Par contre pour des propos qui tomberaient sous le coup de la loi, est-ce que c’est possible ? Qui faudrait-il viser par une plainte ?

[Utilisateur supprimé]

L'IA je dirais.

lourrran

@TurboLanding
Je concluais mon message en disant : Sauf si tu as plus d'éléments à apporter. 

Pour ma part, je n'ai aucune info sur ces 2 cas. Google a dû remarquer que je ne cliquais strictement jamais sur les liens avec ce type d'infos un peu putaclic.

[Utilisateur supprimé]

Oui voilà je sais jute qu'il aurait discuté six semaines avec l'IA. En effet, il faut relativiser.

Fin de partie

Vassillia a dit :

Bonjour, les réseaux sociaux, les intelligences artificielles sont des outils, rien de plus, rien de moins.

Ce sont des outils qui vivent du drama et donc indirectement de la haine puisque il y a un algorithme derrière qui est calibré pour satisfaire les bas instincts des êtres humains. Certains de ces réseaux sociaux sont des égouts.

Soc

J'en connais d'autres qui aiment le drama et effectivement ce n'est pas à leur honneur...

Magnéthorax

@Fdp : réseaux d'égouts et réseaux d'ego

Vassillia

Pas que du drama heureusement mais tu as raison sur le fait que les algorithmes sont calibrés pour satisfaire la demande utilisateur. On en revient à ce que je disais, le responsable est l'humain derrière l'écran, pas l'algorithme, pas l'intelligence artificielle qui remplissent la mission qu'on attend d'eux. Si on ne regarde jamais de drama, l'algorithme ne proposera plus de drama ou en tout cas beaucoup moins. C'est leur but de cibler les goûts de l'humain derrière l'écran, ce sont même des données ayant une valeur marchande.
PS. Regardons le nombre de vue de shtam, il n'y a pas d'algorithme qui font remonter ces fils plus que les autres et pourtant... tout le monde sait ce qu'on va y trouver. Inutile de faire semblant qu'on est mieux que les autres concernant les bas instincts

lourrran

Quand on discute pendant 6 semaines avec une IA, c'est qu'on a quand même de sacrés problèmes.

J'ai envie de dire : tirons les leçons de ce drame, imposons aux éditeurs de tracer les connexions (fliquer les connexions, que dira la CNIL ?), et s'ils constatent qu'une même personne se connecte trop longtemps/trop fréquemment, alors il faut alerter les services adéquats, pour aider cette personne. Même si les discussions entre cette personne et l'IA sont sur des sujets anodins. 

@Vassilia
Les responsables politiques (au pouvoir) ont intérêt à résoudre les problèmes, pour leur cote de popularité. Les responsables politiques de l'opposition ont eux intérêt à créer des problèmes.

Fin de partie

@Vassillia : qui oblige les propriétaires des réseaux sociaux à privilégier la bassesse humaine? Comme si on ne savait pas qu'on n'est jamais déçu par la bassesse humaine, on peut toujours faire pire et des gens l'encouragent pour gagner de l'argent. Des gens ont trouvé un moyen de faire de l'argent avec la haine et la bêtise crasse, c'est diabolique!

Vassillia

Ils ne privilégient pas la bassesse humaine, ils privilégient ce qui correspond à la demande utilisateur, ils s'en foutent que ce soit du drama, des maths ou autre chose. C'est quand même étonnant que tu ne comprennes pas ou que tu fasses semblant de ne pas comprendre.

Fin de partie

@Vassillia : Si tu laisses des humains dans un quasi-anonymat sur les réseaux sociaux tu obtiens un égout. Faire semblant de croire que ce n'est pas automatique alors que tout est fait pour que ce soit comme ça cela relève du déni, de l'hypocrisie, du foutage de gueule.

On ne peut même pas dire qu'on s'en remet à la responsabilité personnelle puisque tu peux menacer n'importe qui sur un réseau social avec de faibles chances d'être poursuivis pénalement (surtout si tu utilises un VPN)

nicolas.patrois

Vassillia a dit :

Pas que du drama heureusement mais tu as raison sur le fait que les algorithmes sont calibrés pour satisfaire la demande utilisateur.

Sainte taxe horreur.

Vassillia

Bien sûr que c'est automatique, exactement de la même manière que c'est automatique que les marteaux servent aussi à fracasser la tête du voisin plutôt qu'à planter des clous mais ce n'est pas de la responsabilité ni du marteau ni du concepteur du marteau, drôle de conception des responsabilités.
En revanche, les propos illégaux doivent être retirés par l'hébergeur sinon ils seront tenus pour responsable donc globalement ils le font car eux sont évidemment identifiables.
Mieux encore, et histoire de revenir au sujet de ce fil, l'intelligence artificielle peut servir à analyser automatiquement des messages et à censurer ceux qui sont haineux. C'est ce que propose Bodyguard pour les joueurs et joueuses de Roland Garros, il faut autoriser l'accès à ses comptes sur les réseaux sociaux et elle fait le nettoyage toute seule. Youtube censure tous les discours non conformes aux recommandations de l'OMS...
L'intelligence artificielle est peut-être la seule solution pour contenir les humains ayant la fâcheuse tendance à transformer les réseaux sociaux en égout : elle est infatigable et rapide alors que le même travail fait par un modérateur est horriblement chronophage et désagréable. Si on lui demande de nettoyer les égouts, elle le fera sans se plaindre.

Fin de partie

Si on pouvait s'en remettre à la sagesse des gens qui contrôleraient donc parfaitement leur instincts on n'aurait pas de police, pas de tribunaux parce qu'il n'y aurait pas de crimes.

Ceux qui prospèrent sur la connaissance que les êtres humains sont gouvernés par leur bas instincts ne sont responsables de rien, n'est-ce pas, les êtres humains n'ont qu'à pas être faibles moralement, c'est uniquement de leur faute si on fait de l'argent sur leur haine, leur bas instincts.

Mais ce genre d'arguments curieusement ne marchent plus dans la tête de ceux qui les profèrent quand on justifie le vol par, ils n'avaient qu'à pas être riches, à posséder tout ce qu'ils possèdent 

Vassillia

Et bien voilà tu as tout compris, bravo Fin de Partie.
Effectivement, ce genre d'argument ne marche pas car il est trop différent :
-voler nuit forcément à celui qui possède, il n'a pas le choix.
-développer un réseau social ne peut nuire éventuellement qu'à celui qui choisit de s'en servir.
Je présume que tu ne seras pas d'accord mais ce n'est pas bien grave puisque c'est une autre question d'autoriser ou non le vol. Je pense m'arrêter là pour cette conversation et je te souhaite une bonne journée.

Bibix

La drogue ne nuit qu'à ceux qui s'en servent alors pourquoi est-ce interdit ? Après tout, on peut utiliser ces drogues pour soigner donc c'est juste un outil que les utilisateurs utilisent mal.

Et pourquoi est-ce interdit de soigner si l'on n'est pas docteur (même si on le précise) ? Si on précise qu'on est pas docteur, cela ne peut nuire qu'à celui qui choisit ce service. Serait-ce encore une drôle de conception des responsabilités ?

Fin de partie

@Vassillia. Ce que je comprends est que tu ramènes toujours tout à la seule responsabilité personnelle. Tout est soumis à la responsabilité personnelle : tu es un gueux, c'est de la faute, tu te fais harceler sur les réseaux sociaux, il ne fallait pas y aller etc.

PS.
Si on se fait harceler à l'école il ne faut pas y aller aussi ? Il faut changer d'école ? Penser à payer une école privée ?

Vassillia

@Bibix Ben justement, ce que tu évoques est interdit par la loi. Tant que les propriétaires des réseaux sociaux respectent la loi, ils font le job et s'ils ne la respectent pas après un signalement, il faut passer par la voie judiciaire. Leur but est de gagner de l'argent, pas de sauver l'humanité de ses propres travers. Je n'attends pas plus d'eux car ils n'ont aucune raison de faire autre chose.
En revanche, on peut très bien durcir la loi pour interdire des propos pas encore interdits si on trouve cela légitime collectivement ou obliger une certaine modération automatique. Il faut quand même raison garder par rapport à la liberté d'expression nécessaire à une démocratie.
C'est mon job d'interdire à mes enfants les réseaux sociaux dans un premier temps puis de leur apprendre à les utiliser pour que le rapport bénéfice/risque soit favorable pour eux. On peut déléguer ce job à l'école ou à des campagnes de prévention gouvernementales. Possible de se planter dans cet apprentissage mais je ne me plaindrai pas de l'outil (ni de son concepteur) qui peut aussi être constructif.

biguine_equation

Pardon d’en rajouter dans le côté « drama » mais cette histoire m’obsède. 

Que le suicide d’une ado de 13 ans ne provoque pas chez celles qui en sont responsables un délai de sidération et de décence et que les amies de la victime continuent de recevoir des messages du style: « Maintenant c’est ton tour »; tout cela donc, en dit long sur l’état mental d’une partie de la jeunesse (on a, au minimum, affaire à des sociopathes selon la classification « officielle » du DSM-V). Sans parler du désespoir abyssal des harcelés.

Un prof témoignait récemment de la disparition progressive, dans les collèges, de petites structures médico-sociales qui seraient bien utiles devant le pétage de plomb généralisé !
Certains jeunes emmènent aujourd’hui avec eux l’instrument de leur malheur.
Il était question ici-même d’une pénurie de profs. L’école subie aussi une pénurie de cliniciens. Et les piteuses justifications du ministre n’incitent pas à l’optimisme.
Quand à la responsabilité des plateformes, tout a déjà été dit: elle est totale. Les algorithmes sont calibrés pour favoriser le pire et je vous fiche mon billet que l’intelligence artificielle va accélérer cette course à l’abîme.
Lors d’un débat récent, la journaliste Eugénie Bastié qualifiait « TIK-TOK » de « cloaque monstrueux » et préconisait de l’interdire. Ça serait bien d’y penser.

Fin de partie

Vassillia a dit :

je ne me plaindrai pas de l'outil (ni de son concepteur) qui peut aussi être constructif.

Ces gens s'enrichissent en toute impunité sur le drama et l'exploitation des bas instincts des êtres humains. Evidemment ils se réfugient derrière un discours hypocrite sur la liberté d'expression (depuis quand le harcèlement, les menaces, l'insulte, la diffamation entrent dans cette catégorie?).

Ne me dites pas qu'une jeune personne peut refuser ce diktat: si elle n'a pas de téléphone portable, qu'elle refuse d'utiliser un réseau social elle devient un paria, elle se condamne à la mort sociale et à être harcelée à l'école.

Dom

Ce sont à nos politiques de légiférer. 

Ils semblent impuissants mais ils semblent aussi manquer énormément de volonté. 

Comme cela a été dit : des milliers de menaces de morts, de propos racistes, antisémites et islamophobes (tous les « istes » et tous les « phobes » sont représentés). Et ça reste là. C’est inadmissible mais après l’avoir dit… je ne sais pas quoi faire. 

Vassillia

Mais c'est déjà interdit ce genre de propos.
La seule solution c'est de signaler ce qui conduit à une analyse humaine et généralement à de la modération et/ou de développer des intelligences artificielles pour automatiser le processus. On ne peut pas mettre suffisamment de modérateurs pour surveiller tous les messages du web.
Interdire les réseaux sociaux, outre le fait que c'est liberticide envers une pratique qui n'est pas dangereuse en soi, ce sera inefficace, les gamins utiliseront d'autres moyens pour faire la même chose.

Mathurin

C'est très étrange mais sur ce coup, je suis d'accord avec FdP.
Je n'ai jamais cru à l'absolu en matière de liberté de circulation, que ce soit celle des personnes, des biens, des services, des capitaux ou des idées.
Je ne verrai aucun problème à l'interdiction de tik-tok (vu qu'il est très difficile d'empêcher son emploi par des mineurs), ainsi qu'à l'arrêt de l'anonymat sur les réseaux sociaux non politiques (bon, je sais c'est difficile de les distinguer). Que je sache, ni les poisons, ni les armes à feu, ne sont en vente libre et personne ne dit que cela contrevient au progrès technique.

troisqua

Les armes sont une invention humaine, peuvent être utilisées pour de bonnes ou de mauvaises raisons, mais sont dangereuses si une société peut en faire le commerce sans restriction: donc on encadre, par la loi, leur utilisation et leur commercialisation. Les réseaux sociaux sont très comparables.

Je devrais être plus précis : "l'industrie du réseau social" devrait être interdite, tout comme on interdit le commerce d'uranium enrichi. C'était dans le programme électoral des démocrates aux USA, même si personne n'a vraiment relevé l'information, comme si elle n'était pas extrêmement importante. Il faut dire que l'utilisation qu'en font la plupart des politiques désirant fortement le pouvoir a amené les USA à une situation de quasi guerre civile (j'ai de la famille là bas, les gens ne se parlent plus, et nous en prenons le chemin) et chacun se souvient la prise du Capitol.

Quand je parle de "l'industrie du réseau social" je parle d'entreprises privées qui font de l'argent à manipuler les données des individus jusqu'à en arriver à piloter l'humeur de groupes entiers de personnes, dans l'intérêt de commanditaires suffisamment riches, clients de Facebook, politiques ou marchands.

Créer un réseau du genre XMPP entre amis apporte les bénéfices de ce que les gens appellent "réseau social" sans rentrer dans la notion d'industrie du réseau social. Mais il faudrait former les gens. Qui sait monter son propre petit "whatsapp" ou "instagram" privé hébergé chez soi ? 0,01% des français ? À peine.... C'est l'ignorance informatique des gens qui fait prospérer cette industrie.

De ce que j'ai pu expérimenter, quand on commence à tenir ces propos, on est souvent taxé d'être has been (le réseau social serait la modernité, le combattre serait réactionnaire), ou pire conspirationniste (beaucoup de gens doutent de la capacité de manipulation des réseaux sociaux ou la sous-estiment totalement, tout comme on refuse souvent à titre individuel de reconnaître que la publicité nous affecte).