IA et suicides
Bonjour, à ma connaissance il y a eu deux suicides liés à une discussion avec une IA. Je trouve ça surréaliste. Comment est-ce possible ? J'aimerais avoir vos avis là-dessus.
Cordialement.
Jean-Louis.
Connectez-vous ou Inscrivez-vous pour répondre.
Réponses
Ca craint
Une manière comme une autre de passer le test de Turing.
Ces algorithmes complètent des phrases. Si on ne lui donne que du négatif, il va évidemment avoir tendance à répondre de la même manière avec du négatif. Ces IAs n'ont pas de barrières morales puisqu'elles ne comprennent pas ce qu'elles écrivent. Elles peuvent donc décrire avec exactitude des méthodes de suicide efficaces sans se poser de questions. Normalement, ça n'arrive pas si le bridage est bien fait.
En France, il y a 15 ou 20 suicides par jour.
Dans le monde, il y a eu combien de suicides sur les 2 derniers mois ?
Dont 2 liés à une discussion avec une IA. Seulement 2 ? Ca paraît peu, et donc, on peut voir le verre à moitié plein, et dire que majoritairement, l'IA a sauvé des suicidaires.
Franchement, ce qui me paraît surréaliste, ce serait de commenter cette non-information.
Sauf si tu as plus d'éléments à apporter.
Ma femme me dit, ceux qui se suicident se seraient suicidés de toute façon...
Bonne journée.
Jean-Louis.
Les pouvoirs publics sont complètement dépassés par le phénomène ou s'en désintéressent complètement.
Je pense qu'on est plus dans le domaine du buzz que de l'information utile. Deux personnes étaient au bord du suicide, totalement décidées.
On peut décider d'en faire des moyens de communication ou de rencontre, des aides à la prise de décision ou... décider d'en faire des moyens de harcèlement caché derrière son écran.
Ce ne sont pas les outils le problème, ce sont ceux qui s'en servent le problème, c'est nous le problème. Mais ce n'est pas vraiment la faute de l'époque, il y a eu des boucs émissaires et des phénomènes de groupes depuis bien longtemps, simplement la technologie rend ces phénomènes plus visibles à mon avis.
Oh que oui, on vit une époque formidable, il n'y en a aucune où j'aurais préféré vivre plutôt que maintenant et les intelligences artificielles sont des magnifiques joujoux qui vont nous permettre de gagner du temps sur des taches qu'on n'a pas envie de faire, avec des risques de dérives bien sûr mais c'est ça aussi l'évolution. Quand on a appris à domestiquer le feu, on a en même temps appris à provoquer des incendies, heureusement que les bonhommes de l'époque ont accepté ce risque et appris à le gérer.
Au passage, la plupart des grandes entreprises tout comme les pouvoirs publics luttent, même si ce n'est pas très efficace, contre le harcèlement. Les premières car c'est mauvais pour leur image donc mauvais pour le business si les annonceurs ne cautionnent plus et les seconds pour faire plaisir à leurs électeurs. Soyons sympa et accordons leur qu'ils luttent contre le harcèlement aussi un peu pour un idéal de société.
Si l'appel au suicide est réprimé, ...
-- Schnoebelen, Philippe
La question est : quand passe-t-on au stade où on considère qu'il est plus efficace de parier sur une guerre future ?
Peut-être un rapport avec la théorie des jeux ?
Ceci pour rester sur la thémathématique mais s'il n'y a pas d'autres approches plus adaptées ou complémentaires.
Je concluais mon message en disant : Sauf si tu as plus d'éléments à apporter.
Pour ma part, je n'ai aucune info sur ces 2 cas. Google a dû remarquer que je ne cliquais strictement jamais sur les liens avec ce type d'infos un peu putaclic.
PS. Regardons le nombre de vue de shtam, il n'y a pas d'algorithme qui font remonter ces fils plus que les autres et pourtant... tout le monde sait ce qu'on va y trouver. Inutile de faire semblant qu'on est mieux que les autres concernant les bas instincts
J'ai envie de dire : tirons les leçons de ce drame, imposons aux éditeurs de tracer les connexions (fliquer les connexions, que dira la CNIL ?), et s'ils constatent qu'une même personne se connecte trop longtemps/trop fréquemment, alors il faut alerter les services adéquats, pour aider cette personne. Même si les discussions entre cette personne et l'IA sont sur des sujets anodins.
@Vassilia
Les responsables politiques (au pouvoir) ont intérêt à résoudre les problèmes, pour leur cote de popularité. Les responsables politiques de l'opposition ont eux intérêt à créer des problèmes.
-- Schnoebelen, Philippe
En revanche, les propos illégaux doivent être retirés par l'hébergeur sinon ils seront tenus pour responsable donc globalement ils le font car eux sont évidemment identifiables.
Mieux encore, et histoire de revenir au sujet de ce fil, l'intelligence artificielle peut servir à analyser automatiquement des messages et à censurer ceux qui sont haineux. C'est ce que propose Bodyguard pour les joueurs et joueuses de Roland Garros, il faut autoriser l'accès à ses comptes sur les réseaux sociaux et elle fait le nettoyage toute seule. Youtube censure tous les discours non conformes aux recommandations de l'OMS...
L'intelligence artificielle est peut-être la seule solution pour contenir les humains ayant la fâcheuse tendance à transformer les réseaux sociaux en égout : elle est infatigable et rapide alors que le même travail fait par un modérateur est horriblement chronophage et désagréable. Si on lui demande de nettoyer les égouts, elle le fera sans se plaindre.
Effectivement, ce genre d'argument ne marche pas car il est trop différent :
-voler nuit forcément à celui qui possède, il n'a pas le choix.
-développer un réseau social ne peut nuire éventuellement qu'à celui qui choisit de s'en servir.
Je présume que tu ne seras pas d'accord mais ce n'est pas bien grave puisque c'est une autre question d'autoriser ou non le vol. Je pense m'arrêter là pour cette conversation et je te souhaite une bonne journée.
Et pourquoi est-ce interdit de soigner si l'on n'est pas docteur (même si on le précise) ? Si on précise qu'on est pas docteur, cela ne peut nuire qu'à celui qui choisit ce service. Serait-ce encore une drôle de conception des responsabilités ?
Si on se fait harceler à l'école il ne faut pas y aller aussi ? Il faut changer d'école ? Penser à payer une école privée ?
En revanche, on peut très bien durcir la loi pour interdire des propos pas encore interdits si on trouve cela légitime collectivement ou obliger une certaine modération automatique. Il faut quand même raison garder par rapport à la liberté d'expression nécessaire à une démocratie.
C'est mon job d'interdire à mes enfants les réseaux sociaux dans un premier temps puis de leur apprendre à les utiliser pour que le rapport bénéfice/risque soit favorable pour eux. On peut déléguer ce job à l'école ou à des campagnes de prévention gouvernementales. Possible de se planter dans cet apprentissage mais je ne me plaindrai pas de l'outil (ni de son concepteur) qui peut aussi être constructif.
Certains jeunes emmènent aujourd’hui avec eux l’instrument de leur malheur.
Il était question ici-même d’une pénurie de profs. L’école subie aussi une pénurie de cliniciens. Et les piteuses justifications du ministre n’incitent pas à l’optimisme.
Quand à la responsabilité des plateformes, tout a déjà été dit: elle est totale. Les algorithmes sont calibrés pour favoriser le pire et je vous fiche mon billet que l’intelligence artificielle va accélérer cette course à l’abîme.
Lors d’un débat récent, la journaliste Eugénie Bastié qualifiait « TIK-TOK » de « cloaque monstrueux » et préconisait de l’interdire. Ça serait bien d’y penser.
La seule solution c'est de signaler ce qui conduit à une analyse humaine et généralement à de la modération et/ou de développer des intelligences artificielles pour automatiser le processus. On ne peut pas mettre suffisamment de modérateurs pour surveiller tous les messages du web.
Interdire les réseaux sociaux, outre le fait que c'est liberticide envers une pratique qui n'est pas dangereuse en soi, ce sera inefficace, les gamins utiliseront d'autres moyens pour faire la même chose.
Je n'ai jamais cru à l'absolu en matière de liberté de circulation, que ce soit celle des personnes, des biens, des services, des capitaux ou des idées.
Je ne verrai aucun problème à l'interdiction de tik-tok (vu qu'il est très difficile d'empêcher son emploi par des mineurs), ainsi qu'à l'arrêt de l'anonymat sur les réseaux sociaux non politiques (bon, je sais c'est difficile de les distinguer). Que je sache, ni les poisons, ni les armes à feu, ne sont en vente libre et personne ne dit que cela contrevient au progrès technique.