Plus de chercheurs s'inquiètent de l'IA que vous ne le pensez!

9 mois ago · Updated 9 mois ago

Une enquête d'AI Impacts montre que les problèmes considérés comme marginaux sont en réalité plus proches du courant principal que vous ne le pensez…

L'organisation AI Impacts a sondé 2778 chercheurs liés à six des principaux lieux de publication en IA pour déterminer les vues consensuelles sur les calendriers pour atteindre une IA de niveau humain, l'ordre dans lequel différents emplois pourraient potentiellement être remplacés, le niveau d'optimisme et de pessimisme concernant les développements de l'IA, et plus encore.

Table
  1. Voici les résultats complets de l'étude:
  2. De nombreux chercheurs se sentent à la fois confus et optimistes et inquiets!
  3. Pour en savoir plus sur cette étude

Voici les résultats complets de l'étude:

Le temps estimé jusqu'à ce que nous atteignions une performance 'de niveau humain' générale par les systèmes d'IA a diminué entre une et cinq décennies depuis l'enquête de 2022 (qui avait posé des questions similaires à environ 700 personnes).

Les délais jusqu'à l'automatisation complète de tâches spécifiques ont diminué, parfois considérablement. "Dans cinq ans, des systèmes d'IA devraient être envisageables, capables de créer entièrement un site de traitement de paiement à partir de zéro, ou de générer entièrement une nouvelle chanson qui sonne comme si elle était de, par exemple, Taylor Swift, ou de télécharger et d'affiner autonome un modèle de langage volumineux."

Certaines personnes s'inquiètent de l'extinction humaine à cause de l'IA : "Les répondants médians mettent 5% ou plus sur le fait que l'IA avancée conduise à l'extinction humaine ou similaire, et un tiers à la moitié des participants donnent 10% ou plus."

La plupart des gens ont quelques inquiétudes sur ce que l'IA fait à l'avenir : "Pour chacun des onze scénarios [effrayants et mauvais - Jack] et 'autres' que nous avons demandés, au moins un tiers des participants les considèrent méritant une préoccupation substantielle ou extrême."

Les gens sont assez confus à la fois sur le potentiel de catastrophe et d'épanouissement venant de l'IA : "Il y a peu d'optimistes ou de pessimistes confiants concernant l'IA avancée : de grands espoirs et des préoccupations graves se trouvent généralement ensemble."

Une majorité de personnes souhaitent une plus grande priorisation dans l'atténuation des risques de l'IA : "70% des participants aimeraient voir la recherche visant à minimiser les risques des systèmes d'IA être priorisée plus hautement".

De nombreux chercheurs se sentent à la fois confus et optimistes et inquiets!

Pourquoi cela est important - plus de gens pensent aux choses étranges que vous ne le pensez : Beaucoup de discours populaires (lire : médias de masse et twitterari) sur l'IA tentent de peindre le débat sur l'IA comme une majorité raisonnable et une minorité folle (qui penchent soit extrêmement pour le risque ou contre le risque, alias EA ou e/ACC), mais des enquêtes comme celle-ci montrent l'inverse : un ensemble surprenamment grand de chercheurs se sentent à la fois confus et optimistes et inquiets des enjeux de l'IA. Oui, AI Impacts a des effets de sélection dans l'enquête, mais des milliers de personnes représentent déjà une part non négligeable et statistiquement significative de la communauté de développement de l'IA.

Pour en savoir plus sur cette étude

Sondage de 2 778 auteurs en IA : six parties en images (blog AI Impacts, Substack).

Analysez les résultats complets ici : DES MILLIERS D'AUTEURS D'IA SUR L'AVENIR DE L'IA (AI Impacts, PDF).

 

Nota Bene:

Cet article est une traduction intégrale en français de la newsletter "IMPORT AI by Jack Clark" à laquelle nous vous recommandons de vous abonner

Nathalie Bottollier
Les derniers articles par Nathalie Bottollier (tout voir)
Go up