Les algorithmes : l'effet bulle

Bonsoir.
Voici un article d'une jeune chercheuse en algorithmique que j'apprécie beaucoup.
On vit dans une société où les défauts et les biais sont légion et j'admire le travail des pédagogues qui nuancent le débat sur les "méchants algorithmes qui veulent nous asservir", notamment en mettant en évidence des effets sociaux comme l'effet bulle.

Je dis cela en tout état de cause car avec un profil aussi fixe que le mien, je me rends bien compte que même sans compte de réseau social, je suis tracé par des pubs non sollicitées et déraisonnablement précises, j'ose à peine imaginer ce qu'il adviendrait de ma catégorisation si j'adhérais à l'un de ces réseaux sociaux.

À bientôt.

Cherche livres et objets du domaine mathématique :

Intégraphes, règles log et calculateurs électromécaniques.

Réponses

  • Les algorithmes ne sont pas biaisés, il contribuent à révéler la société que certains courants prétendument progressistes refusent de voir telle qu'elle est.
    Il n'y a pas besoin d'une loi pour infléchir ce qui est le résultat des réactions des consommateurs (même s'il y a besoin d'une loi pour imposer le caprice de théoriciens).
    Une fonction est un ensemble $f$ de couples tel que pour tous $x,y,z$, si $(x,y)\in f$ et $(x,z)\in f$ alors $y = z$.
  • Merci pour l'avis mais je ne le partage pas.

    Certes les algorithmes conçus pour des recherches théoriques en mathématiques sont sans doute ceux pour lesquels un biais n'est pas possible, vu qu'il y a des moyens de prouver leur bon fonctionnement et leur terminaison, mais en ce qui concerne les algorithmes conçus pour favoriser des tendances, c'est pratiquement leur conception qui est le biais.

    Et ce n'est pas dans le but de revenir sur un débat qui a été fermé à raison mais le précédent algorithme dont j'ai parlé résout une problématique qui est en tout état de cause symétrique par un concept asymétrique et il n'a jamais été amélioré depuis autrement que par des heuristiques consensuelles, pour le dire sobrement.
    Si ce n'est pas aussi un biais, alors effectivement il n'y a aucun biais.

    À bientôt.

    [Edit : Correction de coquilles et d'un biais d'intention.]

    Cherche livres et objets du domaine mathématique :

    Intégraphes, règles log et calculateurs électromécaniques.

  • Les algorithmes peuvent être biaisés (par leurs développeurs), comme ceux développés pour la reconnaissance faciale ou pour l’étude a priori de la criminalité.
    Mais quand certains écrivent que « les algorithmes ceci » ou « les algorithmes cela », cela n’a pas de sens : on utilise tous des algorithmes quand on pose une addition.
    Algebraic symbols are used when you do not know what you are talking about.
            -- Schnoebelen, Philippe
  • Les algorithmes utilisés par les réseaux sociaux ne font que reproduire à plus grande échelle ce que fait le patron de bar du coin, ou n'importe quel commerçant, ou n'importe quel individu un peu flatteur. La boulangère qui vous demande des nouvelles du petit dernier, elle fait la même chose que Facebook.
    Pour que les clients reviennent, le patron de bar discute avec eux, en allant bien dans le sens du poil, en lançant des sujets de conversation bien choisis ... et forcément, les sujets qui marchent ne sont pas les mêmes selon les bistrots ...

    Les notions de 'bulle' qu'on trouve dans les réseaux sociaux, on les a déjà et depuis toujours dans la vraie vie.

    La différence, c'est que c'est à beaucoup plus grande échelle, et que ça touche les plus jeunes.
    Tu me dis, j'oublie. Tu m'enseignes, je me souviens. Tu m'impliques, j'apprends. Benjamin Franklin
  • Bonjour.

    Merci beaucoup, @nicolas.patrois et @lourrran.

    Je remarque que la plupart des algorithmes ne posent problème qu'à partir du moment où cela touche une facette de notre existence, et encore, cela dépend de l'aspect plus ou moins publique de ladite facette et de l'impact que cela peut avoir, en bien comme en mal.

    Le fait que des humains fassent pareil, mais avec toute une série de freins physiques qui ne se retrouvent pas pour les autoroutes de l'information est effectivement un gros paramètre.
    Peut-être qu'en réfléchissant à l'implémentation de ces freins on pourrait être plus juste d'un point de vue "réseau social".

    Aussi, ces problèmes semblent bien moins présents quand il s'agit d'entités abstraites, de la recherche de triplets respectant une propriété donnée ou de la catégorisation de figures par exemple.

    À bientôt.

    Cherche livres et objets du domaine mathématique :

    Intégraphes, règles log et calculateurs électromécaniques.

  • Lourrran a écrit:
    La différence, c'est que c'est à beaucoup plus grande échelle, et que ça touche les plus jeunes.

    Pourquoi préciser "ça touche les plus jeunes"? M'est avis que cela touche tout le monde et que puisque les adultes n'ont pas d'obligations scolaires qui les obligeraient à entendre un autre son de cloche ils sont donc plus susceptibles de s'enfermer dans ces "bulles".
  • 4 jours plus tard, en relisant mon message, je suis un peu surpris de ma dernière phrase sur les plus jeunes. Pas sûr que je conclurais pareil aujourd'hui.

    Mais quand tu dis que les plus jeunes sont 'protégés', parce que via les obligations scolaires, ils entendraient un autre son de cloche... bof bof bof.
    10 000 fois bof.
    Si les gamins écoutaient les profs, ça se saurait.
    Tu me dis, j'oublie. Tu m'enseignes, je me souviens. Tu m'impliques, j'apprends. Benjamin Franklin
  • Bonjour.

    En ce qui concerne les jeunes, ils s'enferment très vite dans ces mondes virtuels sociaux sans forcément avoir du recul.

    Je ne suis pas sûr qu'ils soient suffisamment outillés pour faire face à tout ce qu'ils rencontrent, par contre ils sont parfaitement outillés pour aller droit dessus, en s'y fracassant parfois au passage.

    Je suis très pessimiste en ce qui concerne la jeunesse, mais c'est pour avoir été proche de cas malheureux qui se sont très mal terminés.

    À bientôt.

    Cherche livres et objets du domaine mathématique :

    Intégraphes, règles log et calculateurs électromécaniques.

  • Dreamer:

    L'utilisation de l'expression "la jeunesse" te fait perdre de vue qu'on parle de beaucoup d'individus qui sont différents.
    Hélas, le malheur ne va pas disparaître et il continuera à frapper des gens (jeunes, vieux...).

    Comme je l'écrivais plus haut, l'obligation scolaire oblige les gosses* à sortir de leur bulle (au moins pour un temps) après, en tirent-t-ils profit? On ne peut pas avoir une réponse globale uniforme à cette question.

    *: les adultes ont leur lieu de travail mais on ne les paie pas à bavarder, cela limite les échanges et il y a moins d'horizontalité.
  • Fin de partie.

    Je ne parle effectivement pas des cas malheureux que j'ai connus mais bien de l'ensemble des jeunes qui ont accès à ces réseaux sociaux, souvent un à deux ans avant d'avoir l'âge prescrit pour y avoir accès, et qui sont plongés dans un univers fait de connexions parfois sans filtres parfois avec des filtres déformants, où la moindre information peut se révéler falsifiée*, et l'école n'est pas l'endroit où ils obtiennent les clefs de décryptage de cette information, pour les quelques rares élèves qui croient encore à l'institution école.

    Oui, je suis pessimiste, mais je ne vois pas en quoi je le serais moins.

    Pour le monde du travail, c'est sans doute un peu vrai, mais là aussi, il faudrait être prudent, des situations particulières sont tout aussi bien possibles, les adultes actifs ne sont pas forcément bien armés contre ce qu'ils rencontrent sur les réseaux sociaux.

    À bientôt.

    * Quelqu'un ici, je ne sais plus qui, avait écrit qu'il ne croyait plus qu'en des vidéos car c'était ce qui est encore difficile à falsifier, c'était il y a peu de temps et pourtant entre-temps il y a eu les vidéos "Tom Cruise" et ce photomontage fait de toutes pièces par un journaliste célèbre qui a dû finir par avouer qu'il était falsifié car personne n'avait vu la supercherie et il commençait même à recevoir des prix pour ce "travail".
    Il existe des vidéos montrant comment on falsifie certaines vidéos avec de l'apprentissage profond et c'est magnifiquement simple pour tout qui est un peu "outillé".

    Cherche livres et objets du domaine mathématique :

    Intégraphes, règles log et calculateurs électromécaniques.

  • Dreamer a écrit:
    Je ne suis pas sûr qu'ils soient suffisamment outillés pour faire face à tout ce qu'ils rencontrent, par contre ils sont parfaitement outillés pour aller droit dessus, en s'y fracassant parfois au passage.

    Je te rassure : c’est pareil pour les plus vieux.
    Algebraic symbols are used when you do not know what you are talking about.
            -- Schnoebelen, Philippe
  • les adultes ont leur lieu de travail mais on ne les paie pas à bavarder

    Entre la pause café, la pause déjeuner ... et 1000 autres occasions, l'adulte a tout le temps de bavarder avec ses collègues sur le lieu de travail. En tout cas, dans les cas que je connais. Certes, la femme de ménage qui arrive à 18h n'a pas vraiment de collègues avec qui bavarder, et on a d'autres métiers de ce type, où le travail n'apporte quasiment pas de lien social.

    Le salarié 'standard' a plein d'opportunités de bavarder, et d'ailleurs il les utilise ... pour aller sur les réseaux sociaux ou pour propager ce qu'il a vu sur les réseaux sociaux.
    Tu me dis, j'oublie. Tu m'enseignes, je me souviens. Tu m'impliques, j'apprends. Benjamin Franklin
  • Bonjour,

    L'effet bulle l'effet bulle... bien sûr, mais n'est-ce pas une bulle dont le rayon augmente ? Car dans une bulle est injectée sans cesse des éléments nouveaux. On pourrait empêcher un individu d'aller voir ailleurs, et par conséquent de ne pas pouvoir alimenter sa bulle en révélations chocs ?
    Certes on peut parler d'une possibilité d'enfermement mais même cela je ne crois pas qu'il faille le craindre : il est comme une cristallisation nécessaire pour passer à autre chose. Les gens ne sont pas aussi stupides que l'auteur de cet article le suggère.
  • Lourrran:

    Il y a une différence notable entre un bavardage devant la machine à café et un cours dans une salle de classe.
    N'oublions pas que les gens se regroupent par affinité (j'évite, en général, de parler aux xénophobes, aux racistes et aux conspi': ces gens sont fatigants avec leur monomanie).
  • Fin de partie
    Je savais bien que tu étais contre l’instruction!:-D127694
  • Biely:

    Parler à des adultes qui vivent dans des bulles conspi', c'est très difficile d'avoir un dialogue avec eux. Généralement ils sont très fiers de te balancer des tombereaux de co.....ries qu'ils prennent pour du savoir et qui leur donne l'impression d'être des élus. Ces gens ne doutent pas, ils ont déjà toutes les "réponses". Le moindre argument que tu leur donnes va être détourné pour alimenter leur monomanie.
    La seule chose qu'on peut faire est d'éviter que des gosses prennent le même chemin.
  • Pour tous.

    On est bien d'accord que l'effet bulle est maintenant médiatisé parce qu'il a été développé au moyen d'algorithmes des réseaux sociaux pour amplifier un état de fait existant mais qui n'était pas forcément visible avant car soumis à d'innombrables freins physiques, dont l'éducation et l'instruction sont des composantes importantes, comme le dit Fin de partie.

    Néanmoins, les changements actuels, par leur ampleur, ont un effet catalyseur et il n'y a pas de modification sociétale suffisante pour pouvoir réguler ces effets.

    La seule chose que l'on puisse faire, à notre niveau est justement de faire la publicité de ces effets, pas uniquement pour dire "cela existe, on ne peut rien faire", mais plutôt "comment agir", individuellement d'abord et collectivement quand ce sera possible, pour ne pas être enfer-més dans ces paradis artificiels 2.0.

    Cela n'empêchera jamais ceux qui le veulent de rester confirmés dans des croyances erronées, mais on peut essayer au moins de sauver le plus possible de gens avant qu'ils ne se fassent broyer par ces effets.

    À bientôt.

    Cherche livres et objets du domaine mathématique :

    Intégraphes, règles log et calculateurs électromécaniques.

Connectez-vous ou Inscrivez-vous pour répondre.