Intelligences artificielles puissantes — Les-mathematiques.net The most powerful custom community solution in the world

Intelligences artificielles puissantes


Bonjour, je partage cette vidéo qui nous informe sur les dangers concrets lié à l'IA (des phénomènes qui se passent maintenant) et qui ne sont pas mis assez en avant comparé aux questions très hypothétiques comme "les algorithmes dotés de conscience".
De plus comme on est sur un forum de maths, une part non négligeable des membres est concerné par le sujet.
Les questions ouvertes en IA peuvent potentiellement impliquer plusieurs domaines des maths pas seulement les stats/proba ou l'optimisation.
Il est donc important pour les étudiants et les chercheurs de savoir qui utilisent les articles académiques et dans quel but.

Réponses

  • Extrait : X millions de personnes sont menacées par "Tek Fog"
    Oui et non.
    Si un individu X pointe une arme vers un groupe de 10 personnes, on ne va pas dire : '10 personnes sont menacées par un pistolet' , on va dire :  '10 personnes sont menacées par un individu X qui tient un pistolet'.

    La première formulation tend à dire que l'IA est autonome, et que c'est elle qui a décidé de menacer ces millions de personnes. C'est très maladroit, c'est exactement le type de formulation qui alimente un fantasme autour de l'IA.
  • Modifié (23 Sep)
    Je suis d'accord avec ta remarque, je pense que ce n'était pas volontaire de sa part parce qu'il alterne  cette formulation avec une autre formulation du type "l'utilisation de Tek Fog permet de..." qui est plus adaptée. 
    Aussi imaginons que le pistolet a un mode ciblage et tir automatique et  il suffit juste de lancer la machine, dans cette situation on est quand même très tenté de dire que c'est le pistolet qui menace, c'est surement la partie automatisé de "Tek Fog" qui lui suggère implicitement d'utiliser cette formulation.

    Mais le message principal de la vidéo est justement d'arrêter d'imaginer des menaces en mode cinéma sur L'IA et que actuellement il y a des problèmes  beaucoup plus concrets sur ce sujet qui méritent notre attention. 
    Les théories les plus sophistiqués sont en général issus des milieux académiques. Les seuls qui vont exploiter ces théories sont les instituts/ entreprises déjà très puissantes qui ont le luxe  de " pouvoir perdre du temps" à étudier et tester des toutes nouvelles théories et aussi les moyens de recruter des profils très pointu (dans un autre fil on peut lire que les ingénieurs ont de plus en plus un profil de manager, ce ne sont pas eux qui vont étudier et mettre en place la théorie issus des articles scientifiques, comme la compétence scientifique se rarifie le prix d'un profil très pointu peut augmenter très vite). 

    Il y a très peu d'entreprises/instituts qui vérifient les deux conditions donc il y a un risque de monopole (si ce n'est pas déjà le cas).

  • Bonsoir, c'est le terme "IA" qui est trompeur, il véhicule plus de choses que ce qu'il dit.
    si dès le départ on parlait d'algorithme plus ou moins sophistiqué, ce la ne donnerait pas l'illusion d'une volonté autonome.
    Et c'est bien de mettre en garde sur les méthodes de manipulation qu'elles soient issues d'algorithmes que l'on ne voit pas agir directement par méconnaissance de ce qui se passe en dessous et qui nous est offert, ensuite les algorithmes c'est comme les couteaux, c'est l'usage qu'on en fait qui devrait alerter, ou au contraire rassurer.
  • Je serais aussi partisan de parler d'agents algorithmiques avancés plutôt que d'IA.
Connectez-vous ou Inscrivez-vous pour répondre.
Success message!