Intelligences artificielles puissantes
Bonjour, je partage cette vidéo qui nous informe sur les dangers concrets lié à l'IA (des phénomènes qui se passent maintenant) et qui ne sont pas mis assez en avant comparé aux questions très hypothétiques comme "les algorithmes dotés de conscience".
De plus comme on est sur un forum de maths, une part non négligeable des membres est concerné par le sujet.
Les questions ouvertes en IA peuvent potentiellement impliquer plusieurs domaines des maths pas seulement les stats/proba ou l'optimisation.
Il est donc important pour les étudiants et les chercheurs de savoir qui utilisent les articles académiques et dans quel but.
Connectez-vous ou Inscrivez-vous pour répondre.
Réponses
Oui et non.
Si un individu X pointe une arme vers un groupe de 10 personnes, on ne va pas dire : '10 personnes sont menacées par un pistolet' , on va dire : '10 personnes sont menacées par un individu X qui tient un pistolet'.
La première formulation tend à dire que l'IA est autonome, et que c'est elle qui a décidé de menacer ces millions de personnes. C'est très maladroit, c'est exactement le type de formulation qui alimente un fantasme autour de l'IA.
Aussi imaginons que le pistolet a un mode ciblage et tir automatique et il suffit juste de lancer la machine, dans cette situation on est quand même très tenté de dire que c'est le pistolet qui menace, c'est surement la partie automatisé de "Tek Fog" qui lui suggère implicitement d'utiliser cette formulation.
Mais le message principal de la vidéo est justement d'arrêter d'imaginer des menaces en mode cinéma sur L'IA et que actuellement il y a des problèmes beaucoup plus concrets sur ce sujet qui méritent notre attention.
Les théories les plus sophistiqués sont en général issus des milieux académiques. Les seuls qui vont exploiter ces théories sont les instituts/ entreprises déjà très puissantes qui ont le luxe de " pouvoir perdre du temps" à étudier et tester des toutes nouvelles théories et aussi les moyens de recruter des profils très pointu (dans un autre fil on peut lire que les ingénieurs ont de plus en plus un profil de manager, ce ne sont pas eux qui vont étudier et mettre en place la théorie issus des articles scientifiques, comme la compétence scientifique se rarifie le prix d'un profil très pointu peut augmenter très vite).
Il y a très peu d'entreprises/instituts qui vérifient les deux conditions donc il y a un risque de monopole (si ce n'est pas déjà le cas).