IA et suicides

Bonjour, à ma connaissance il y a eu deux suicides liés à une discussion avec une IA. Je trouve ça surréaliste. Comment est-ce possible ? J'aimerais avoir vos avis là-dessus.
Cordialement.
Jean-Louis.
«1

Réponses

  • La goutte est sans doute moins importe que le vase.
    The fish doesnt think. The Fish doesnt think because the fish knows. Everything. - Goran Bregovic
  • Oui et alors?
  • Une IA qui te dit
    "J'aimerais te voir mort"
    Ca craint
    vous ne comprenez pas les choses, vous vous y habituez.


  • C’est sûr ! On pourrait la confondre avec un(e) collégien français !
    Une manière comme une autre de passer le test de Turing.
  • Bibix
    Modifié (June 2023)
    Les chatbots savent imiter à la perfection un humain. Certains comme chatGPT sont bridés donc il est possible de faire la différence. Mais d'autres ne le sont pas assez ce qui fait qu'une personne peut sans le vouloir oublier que ce sont des IAs. Imagine que tu broies du noir, avoir une IA comme confidente, c'est pas mal dans ce cas. Tu es sûr que cela restera un secret donc pas de problème en société. Et si l'IA est débridée elle va naturellement pousser au suicide un suicidaire ou nihiliste ou etc...
    Ces algorithmes complètent des phrases. Si on ne lui donne que du négatif, il va évidemment avoir tendance à répondre de la même manière avec du négatif. Ces IAs n'ont pas de barrières morales puisqu'elles ne comprennent pas ce qu'elles écrivent. Elles peuvent donc décrire avec exactitude des méthodes de suicide efficaces sans se poser de questions. Normalement, ça n'arrive pas si le bridage est bien fait.
  • lourrran
    Modifié (June 2023)
    Je pense qu'on est plus dans le domaine du buzz que de l'information utile. Deux personnes étaient au bord du suicide, totalement décidées. Elles ont interrogé une IA, et ça ne les a pas dissuadées de se suicider. Elles sont passées à l'acte.

    En France, il y a 15 ou 20 suicides par jour.
    Dans le monde, il y a eu combien de suicides sur les 2 derniers mois ?
    Dont 2 liés à une discussion avec une IA. Seulement 2 ?  Ca paraît peu, et donc, on peut voir le verre à moitié plein, et dire que majoritairement, l'IA a sauvé des suicidaires.

    Franchement, ce qui me paraît surréaliste, ce serait de commenter cette non-information.
    Sauf si tu as plus d'éléments à apporter.
    Tu me dis, j'oublie. Tu m'enseignes, je me souviens. Tu m'impliques, j'apprends. Benjamin Franklin
  • Jean-Louis
    Modifié (June 2023)
    OK, je ne connaissais pas cette histoire de bridage.
    Ma femme me dit, ceux qui se suicident se seraient suicidés de toute façon...
    Bonne journée.
    Jean-Louis.
  • Quelle horrible affaire ! Pauvre gamine.
  • Fin de partie
    Modifié (June 2023)
    Le harcèlement continue.
    Les pouvoirs publics sont complètement dépassés par le phénomène ou s'en désintéressent complètement.
  • Jean-Louis a dit :
    Oui et alors?
    Puisqu'il faut expliciter la métaphore, la goutte est la discussion avec l'IA, le vase est le vécu des 20 dernières années. Pour le dire autrement, je suis d'accord avec ta femme.
    The fish doesnt think. The Fish doesnt think because the fish knows. Everything. - Goran Bregovic
  • Dom
    Dom
    Modifié (June 2023)
    On ne saura pas le nombre de suicides évités ou repoussés dans le temps grâce aux IA. 
    C’est macabre comme propos, pardon.
    N’est-on pas en train d’accuser son chien de la rage. La société est très difficile à vivre et des personnes sont désespérées. N’est-ce pas davantage lié à l’humain qu’à une IA ?
  • [Utilisateur supprimé]
    Modifié (June 2023)
    lourrran a dit :
    Je pense qu'on est plus dans le domaine du buzz que de l'information utile. Deux personnes étaient au bord du suicide, totalement décidées.
    Je ne pense pas. On sait en l'occurrence que l'IA a présenté des arguments qui ont « convaincu » le bonhomme.
  • Ludwig
    Modifié (June 2023)
    Pas vraiment le même sujet, mais Her est un beau film sur la relation entre l'homme et l'IA.
  • Fin de partie
    Modifié (June 2023)
    Des réseaux sociaux réussissent à faire de l'argent avec la haine. Cette haine se retourne contre des gens qui sont sans défense contre cette abomination. On vit une époque formidable.
    @Ludwig. Je pense que c'est surtout une critique acerbe. Cela commence comme une espèce de romance cyber 2.0 et finit en farce.
  • Dom a dit :
    N’est-on pas en train d’accuser son chien de la rage. La société est très difficile à vivre et des personnes sont désespérées. N’est-ce pas davantage lié à l’humain qu’à une IA ?
    Certes le suicidé est bien celui qui a pris la décision de mettre fin à ses jours, mais ça n'empêche pas le fait que l'IA l'ait poussé au suicide. Si l'appel au suicide est réprimé, ce n'est pas pour rien. Maintenant, ça reste un épiphénomène comparé aux risques apportés par l'IA.
  • On a déjà eu le thème avec les jeux de rôles ou les jeux vidéos et de façon plus générale tout ce qui est virtuel. Globalement cela se passe mieux quand l'utilisateur sait faire la différence entre le réel et le virtuel, dans le cas contraire il faut être suivi et prendre des cachets.
    The fish doesnt think. The Fish doesnt think because the fish knows. Everything. - Goran Bregovic
  • Vassillia
    Modifié (June 2023)
    Bonjour, les réseaux sociaux, les intelligences artificielles sont des outils, rien de plus, rien de moins.
    On peut décider d'en faire des moyens de communication ou de rencontre, des aides à la prise de décision ou... décider d'en faire des moyens de harcèlement caché derrière son écran.
    Ce ne sont pas les outils le problème, ce sont ceux qui s'en servent le problème, c'est nous le problème. Mais ce n'est pas vraiment la faute de l'époque, il y a eu des boucs émissaires et des phénomènes de groupes depuis bien longtemps, simplement la technologie rend ces phénomènes plus visibles à mon avis.
    Oh que oui, on vit une époque formidable, il n'y en a aucune où j'aurais préféré vivre plutôt que maintenant et les intelligences artificielles sont des magnifiques joujoux qui vont nous permettre de gagner du temps sur des taches qu'on n'a pas envie de faire, avec des risques de dérives bien sûr mais c'est ça aussi l'évolution. Quand on a appris à domestiquer le feu, on a en même temps appris à provoquer des incendies, heureusement que les bonhommes de l'époque ont accepté ce risque et appris à le gérer. 
    Au passage, la plupart des grandes entreprises tout comme les pouvoirs publics luttent, même si ce n'est pas très efficace, contre le harcèlement. Les premières car c'est mauvais pour leur image donc mauvais pour le business si les annonceurs ne cautionnent plus et les seconds pour faire plaisir à leurs électeurs. Soyons sympa et accordons leur qu'ils luttent contre le harcèlement aussi un peu pour un idéal de société.
    La philosophie nous enseigne à douter de ce qui nous paraît évident. La propagande, au contraire, nous enseigne à accepter pour évident ce dont il serait raisonnable de douter. (Aldous Huxley)
  • [Utilisateur supprimé]
    Modifié (June 2023)
    Bibix a dit :
    Si l'appel au suicide est réprimé, ...
    Il faudrait s'inspirer des lois de Robocop alors.
  • Vassillia a dit :
    Bonjour, les réseaux sociaux, les intelligences artificielles sont des outils, rien de plus, rien de moins.
    Certes mais je préfère certains outils (le marteau à planter des clous) que d’autres (le marteau de guerre).
    Algebraic symbols are used when you do not know what you are talking about.
            -- Schnoebelen, Philippe
  • [Utilisateur supprimé]
    Modifié (June 2023)
    Oui mais des marteaux de guerre, sans guerre, ça devient inutile.
    La question est : quand passe-t-on au stade où on considère qu'il est plus efficace de parier sur une guerre future ?
    Peut-être un rapport avec la théorie des jeux ?
    Ceci pour rester sur la thémathématique mais s'il n'y a pas d'autres approches plus adaptées ou complémentaires.
  • Dom
    Dom
    Modifié (June 2023)
    J’ai cru que tu parlerais du marteau et de la faucille, Nicolas. Hihihi.
  • Là où je pense qu'il faut légiférer rapidement et simplement, c'est l'obligation systématique de mentionner si l'interlocuteur est humain ou pas (comme par exemple les chatbot sur les sites commerciaux).
    The fish doesnt think. The Fish doesnt think because the fish knows. Everything. - Goran Bregovic
  • Oui. Par contre pour des propos qui tomberaient sous le coup de la loi, est-ce que c’est possible ? Qui faudrait-il viser par une plainte ?
  • [Utilisateur supprimé]
    Modifié (June 2023)
    L'IA je dirais. >:)
  • @TurboLanding
    Je concluais mon message en disant : Sauf si tu as plus d'éléments à apporter. 

    Pour ma part, je n'ai aucune info sur ces 2 cas. Google a dû remarquer que je ne cliquais strictement jamais sur les liens avec ce type d'infos un peu putaclic.
    Tu me dis, j'oublie. Tu m'enseignes, je me souviens. Tu m'impliques, j'apprends. Benjamin Franklin
  • [Utilisateur supprimé]
    Modifié (June 2023)
    Oui voilà je sais jute qu'il aurait discuté six semaines avec l'IA. En effet, il faut relativiser.
  • J'en connais d'autres qui aiment le drama et effectivement ce n'est pas à leur honneur...
    The fish doesnt think. The Fish doesnt think because the fish knows. Everything. - Goran Bregovic
  • @Fdp : réseaux d'égouts et réseaux d'ego
  • Vassillia
    Modifié (June 2023)
    Pas que du drama heureusement mais tu as raison sur le fait que les algorithmes sont calibrés pour satisfaire la demande utilisateur. On en revient à ce que je disais, le responsable est l'humain derrière l'écran, pas l'algorithme, pas l'intelligence artificielle qui remplissent la mission qu'on attend d'eux. Si on ne regarde jamais de drama, l'algorithme ne proposera plus de drama ou en tout cas beaucoup moins. C'est leur but de cibler les goûts de l'humain derrière l'écran, ce sont même des données ayant une valeur marchande.
    PS. Regardons le nombre de vue de shtam, il n'y a pas d'algorithme qui font remonter ces fils plus que les autres et pourtant... tout le monde sait ce qu'on va y trouver. Inutile de faire semblant qu'on est mieux que les autres concernant les bas instincts
    La philosophie nous enseigne à douter de ce qui nous paraît évident. La propagande, au contraire, nous enseigne à accepter pour évident ce dont il serait raisonnable de douter. (Aldous Huxley)
  • Quand on discute pendant 6 semaines avec une IA, c'est qu'on a quand même de sacrés problèmes.

    J'ai envie de dire : tirons les leçons de ce drame, imposons aux éditeurs de tracer les connexions (fliquer les connexions, que dira la CNIL ?), et s'ils constatent qu'une même personne se connecte trop longtemps/trop fréquemment, alors il faut alerter les services adéquats, pour aider cette personne. Même si les discussions entre cette personne et l'IA sont sur des sujets anodins. 

    @Vassilia
    Les responsables politiques (au pouvoir) ont intérêt à résoudre les problèmes, pour leur cote de popularité. Les responsables politiques de l'opposition ont eux intérêt à créer des problèmes.
    Tu me dis, j'oublie. Tu m'enseignes, je me souviens. Tu m'impliques, j'apprends. Benjamin Franklin
  • Fin de partie
    Modifié (June 2023)
    @Vassillia : qui oblige les propriétaires des réseaux sociaux à privilégier la bassesse humaine? Comme si on ne savait pas qu'on n'est jamais déçu par la bassesse humaine, on peut toujours faire pire et des gens l'encouragent pour gagner de l'argent. Des gens ont trouvé un moyen de faire de l'argent avec la haine et la bêtise crasse, c'est diabolique!
  • Ils ne privilégient pas la bassesse humaine, ils privilégient ce qui correspond à la demande utilisateur, ils s'en foutent que ce soit du drama, des maths ou autre chose. C'est quand même étonnant que tu ne comprennes pas ou que tu fasses semblant de ne pas comprendre.
    La philosophie nous enseigne à douter de ce qui nous paraît évident. La propagande, au contraire, nous enseigne à accepter pour évident ce dont il serait raisonnable de douter. (Aldous Huxley)
  • @Vassillia : Si tu laisses des humains dans un quasi-anonymat sur les réseaux sociaux tu obtiens un égout. Faire semblant de croire que ce n'est pas automatique alors que tout est fait pour que ce soit comme ça cela relève du déni, de l'hypocrisie, du foutage de gueule.
    On ne peut même pas dire qu'on s'en remet à la responsabilité personnelle puisque tu peux menacer n'importe qui sur un réseau social avec de faibles chances d'être poursuivis pénalement (surtout si tu utilises un VPN)
  • Vassillia a dit :
    Pas que du drama heureusement mais tu as raison sur le fait que les algorithmes sont calibrés pour satisfaire la demande utilisateur.
    Sainte taxe horreur.
    Algebraic symbols are used when you do not know what you are talking about.
            -- Schnoebelen, Philippe
  • Vassillia
    Modifié (June 2023)
    Bien sûr que c'est automatique, exactement de la même manière que c'est automatique que les marteaux servent aussi à fracasser la tête du voisin plutôt qu'à planter des clous mais ce n'est pas de la responsabilité ni du marteau ni du concepteur du marteau, drôle de conception des responsabilités.
    En revanche, les propos illégaux doivent être retirés par l'hébergeur sinon ils seront tenus pour responsable donc globalement ils le font car eux sont évidemment identifiables.
    Mieux encore, et histoire de revenir au sujet de ce fil, l'intelligence artificielle peut servir à analyser automatiquement des messages et à censurer ceux qui sont haineux. C'est ce que propose Bodyguard pour les joueurs et joueuses de Roland Garros, il faut autoriser l'accès à ses comptes sur les réseaux sociaux et elle fait le nettoyage toute seule. Youtube censure tous les discours non conformes aux recommandations de l'OMS...
    L'intelligence artificielle est peut-être la seule solution pour contenir les humains ayant la fâcheuse tendance à transformer les réseaux sociaux en égout : elle est infatigable et rapide alors que le même travail fait par un modérateur est horriblement chronophage et désagréable. Si on lui demande de nettoyer les égouts, elle le fera sans se plaindre.
    La philosophie nous enseigne à douter de ce qui nous paraît évident. La propagande, au contraire, nous enseigne à accepter pour évident ce dont il serait raisonnable de douter. (Aldous Huxley)
  • Fin de partie
    Modifié (June 2023)
    Si on pouvait s'en remettre à la sagesse des gens qui contrôleraient donc parfaitement leur instincts on n'aurait pas de police, pas de tribunaux parce qu'il n'y aurait pas de crimes.
    Ceux qui prospèrent sur la connaissance que les êtres humains sont gouvernés par leur bas instincts ne sont responsables de rien, n'est-ce pas, les êtres humains n'ont qu'à pas être faibles moralement, c'est uniquement de leur faute si on fait de l'argent sur leur haine, leur bas instincts.
    Mais ce genre d'arguments curieusement ne marchent plus dans la tête de ceux qui les profèrent quand on justifie le vol par, ils n'avaient qu'à pas être riches, à posséder tout ce qu'ils possèdent  >:)
  • Vassillia
    Modifié (June 2023)
    Et bien voilà tu as tout compris, bravo Fin de Partie.
    Effectivement, ce genre d'argument ne marche pas car il est trop différent :
    -voler nuit forcément à celui qui possède, il n'a pas le choix.
    -développer un réseau social ne peut nuire éventuellement qu'à celui qui choisit de s'en servir.
    Je présume que tu ne seras pas d'accord mais ce n'est pas bien grave puisque c'est une autre question d'autoriser ou non le vol. Je pense m'arrêter là pour cette conversation et je te souhaite une bonne journée.
    La philosophie nous enseigne à douter de ce qui nous paraît évident. La propagande, au contraire, nous enseigne à accepter pour évident ce dont il serait raisonnable de douter. (Aldous Huxley)
  • Bibix
    Modifié (June 2023)
    La drogue ne nuit qu'à ceux qui s'en servent alors pourquoi est-ce interdit ? Après tout, on peut utiliser ces drogues pour soigner donc c'est juste un outil que les utilisateurs utilisent mal.

    Et pourquoi est-ce interdit de soigner si l'on n'est pas docteur (même si on le précise) ? Si on précise qu'on est pas docteur, cela ne peut nuire qu'à celui qui choisit ce service. Serait-ce encore une drôle de conception des responsabilités ?
  • Fin de partie
    Modifié (June 2023)
    @Vassillia. Ce que je comprends est que tu ramènes toujours tout à la seule responsabilité personnelle. Tout est soumis à la responsabilité personnelle : tu es un gueux, c'est de la faute, tu te fais harceler sur les réseaux sociaux, il ne fallait pas y aller etc.
    PS.
    Si on se fait harceler à l'école il ne faut pas y aller aussi ? Il faut changer d'école ? Penser à payer une école privée ?
  • @Bibix Ben justement, ce que tu évoques est interdit par la loi. Tant que les propriétaires des réseaux sociaux respectent la loi, ils font le job et s'ils ne la respectent pas après un signalement, il faut passer par la voie judiciaire. Leur but est de gagner de l'argent, pas de sauver l'humanité de ses propres travers. Je n'attends pas plus d'eux car ils n'ont aucune raison de faire autre chose.
    En revanche, on peut très bien durcir la loi pour interdire des propos pas encore interdits si on trouve cela légitime collectivement ou obliger une certaine modération automatique. Il faut quand même raison garder par rapport à la liberté d'expression nécessaire à une démocratie.
    C'est mon job d'interdire à mes enfants les réseaux sociaux dans un premier temps puis de leur apprendre à les utiliser pour que le rapport bénéfice/risque soit favorable pour eux. On peut déléguer ce job à l'école ou à des campagnes de prévention gouvernementales. Possible de se planter dans cet apprentissage mais je ne me plaindrai pas de l'outil (ni de son concepteur) qui peut aussi être constructif.
    La philosophie nous enseigne à douter de ce qui nous paraît évident. La propagande, au contraire, nous enseigne à accepter pour évident ce dont il serait raisonnable de douter. (Aldous Huxley)
  • Pardon d’en rajouter dans le côté « drama » mais cette histoire m’obsède. 
    Que le suicide d’une ado de 13 ans ne provoque pas chez celles qui en sont responsables un délai de sidération et de décence et que les amies de la victime continuent de recevoir des messages du style: « Maintenant c’est ton tour »; tout cela donc, en dit long sur l’état mental d’une partie de la jeunesse (on a, au minimum, affaire à des sociopathes selon la classification « officielle » du DSM-V). Sans parler du désespoir abyssal des harcelés.
    Un prof témoignait récemment de la disparition progressive, dans les collèges, de petites structures médico-sociales qui seraient bien utiles devant le pétage de plomb généralisé !
    Certains jeunes emmènent aujourd’hui avec eux l’instrument de leur malheur.
    Il était question ici-même d’une pénurie de profs. L’école subie aussi une pénurie de cliniciens. Et les piteuses justifications du ministre n’incitent pas à l’optimisme.
    Quand à la responsabilité des plateformes, tout a déjà été dit: elle est totale. Les algorithmes sont calibrés pour favoriser le pire et je vous fiche mon billet que l’intelligence artificielle va accélérer cette course à l’abîme.
    Lors d’un débat récent, la journaliste Eugénie Bastié qualifiait « TIK-TOK » de « cloaque monstrueux » et préconisait de l’interdire. Ça serait bien d’y penser.
  • Fin de partie
    Modifié (June 2023)
    Vassillia a dit :
    je ne me plaindrai pas de l'outil (ni de son concepteur) qui peut aussi être constructif.
    Ces gens s'enrichissent en toute impunité sur le drama et l'exploitation des bas instincts des êtres humains. Evidemment ils se réfugient derrière un discours hypocrite sur la liberté d'expression (depuis quand le harcèlement, les menaces, l'insulte, la diffamation entrent dans cette catégorie?).
    Ne me dites pas qu'une jeune personne peut refuser ce diktat: si elle n'a pas de téléphone portable, qu'elle refuse d'utiliser un réseau social elle devient un paria, elle se condamne à la mort sociale et à être harcelée à l'école.
  • Dom
    Dom
    Modifié (June 2023)
    Ce sont à nos politiques de légiférer. 
    Ils semblent impuissants mais ils semblent aussi manquer énormément de volonté. 
    Comme cela a été dit : des milliers de menaces de morts, de propos racistes, antisémites et islamophobes (tous les « istes » et tous les « phobes » sont représentés). Et ça reste là. C’est inadmissible mais après l’avoir dit… je ne sais pas quoi faire. 
  • Mais c'est déjà interdit ce genre de propos.
    La seule solution c'est de signaler ce qui conduit à une analyse humaine et généralement à de la modération et/ou de développer des intelligences artificielles pour automatiser le processus. On ne peut pas mettre suffisamment de modérateurs pour surveiller tous les messages du web.
    Interdire les réseaux sociaux, outre le fait que c'est liberticide envers une pratique qui n'est pas dangereuse en soi, ce sera inefficace, les gamins utiliseront d'autres moyens pour faire la même chose.
    La philosophie nous enseigne à douter de ce qui nous paraît évident. La propagande, au contraire, nous enseigne à accepter pour évident ce dont il serait raisonnable de douter. (Aldous Huxley)
  • C'est très étrange mais sur ce coup, je suis d'accord avec FdP.
    Je n'ai jamais cru à l'absolu en matière de liberté de circulation, que ce soit celle des personnes, des biens, des services, des capitaux ou des idées.
    Je ne verrai aucun problème à l'interdiction de tik-tok (vu qu'il est très difficile d'empêcher son emploi par des mineurs), ainsi qu'à l'arrêt de l'anonymat sur les réseaux sociaux non politiques (bon, je sais c'est difficile de les distinguer). Que je sache, ni les poisons, ni les armes à feu, ne sont en vente libre et personne ne dit que cela contrevient au progrès technique.
  • troisqua
    Modifié (June 2023)
    Les armes sont une invention humaine, peuvent être utilisées pour de bonnes ou de mauvaises raisons, mais sont dangereuses si une société peut en faire le commerce sans restriction: donc on encadre, par la loi, leur utilisation et leur commercialisation. Les réseaux sociaux sont très comparables.
    Je devrais être plus précis : "l'industrie du réseau social" devrait être interdite, tout comme on interdit le commerce d'uranium enrichi. C'était dans le programme électoral des démocrates aux USA, même si personne n'a vraiment relevé l'information, comme si elle n'était pas extrêmement importante. Il faut dire que l'utilisation qu'en font la plupart des politiques désirant fortement le pouvoir a amené les USA à une situation de quasi guerre civile (j'ai de la famille là bas, les gens ne se parlent plus, et nous en prenons le chemin) et chacun se souvient la prise du Capitol.
    Quand je parle de "l'industrie du réseau social" je parle d'entreprises privées qui font de l'argent à manipuler les données des individus jusqu'à en arriver à piloter l'humeur de groupes entiers de personnes, dans l'intérêt de commanditaires suffisamment riches, clients de Facebook, politiques ou marchands.
    Créer un réseau du genre XMPP entre amis apporte les bénéfices de ce que les gens appellent "réseau social" sans rentrer dans la notion d'industrie du réseau social. Mais il faudrait former les gens. Qui sait monter son propre petit "whatsapp" ou "instagram" privé hébergé chez soi ? 0,01% des français ? À peine.... C'est l'ignorance informatique des gens qui fait prospérer cette industrie.
    De ce que j'ai pu expérimenter, quand on commence à tenir ces propos, on est souvent taxé d'être has been (le réseau social serait la modernité, le combattre serait réactionnaire), ou pire conspirationniste (beaucoup de gens doutent de la capacité de manipulation des réseaux sociaux ou la sous-estiment totalement, tout comme on refuse souvent à titre individuel de reconnaître que la publicité nous affecte).
Connectez-vous ou Inscrivez-vous pour répondre.