Prudence requise : Elon Musk met en garde après une réunion obligatoire d'Amazon sur les incidents liés à l'IA
Elon Musk a récemment commenté des rapports selon lesquels Amazon s'attaquait à une série de pannes, y compris une liée à la programmation assistée par l'IA. Selon le Financial Times, le géant du commerce électronique a tenu une réunion obligatoire mardi pour analyser en profondeur plusieurs pannes, dont certaines étaient dues à l'utilisation de fonctionnalités de codage assistées par l'IA.
Une tendance inquiétante
Amazon a signalé une "tendance d'incidents" au cours des derniers mois, avec un "rayon d'impact élevé", lié à des "modifications assistées par l'IA" ainsi qu'à d'autres variables. Plus tôt ce mois-ci, le site web d'Amazon et son application de shopping ont été inaccessibles pour certains utilisateurs, avec plus de 22 000 rapports d'incidents selon le suivi des pannes par Downdetector.
Les conséquences des pannes
Les clients ont rencontré des difficultés pour finaliser leurs achats, voir les prix des produits ou accéder à leurs informations de compte. À ce moment-là, Amazon a attribué cette panne à "un déploiement de code logiciel". Cette réunion a attiré l'attention des experts en technologie, y compris celle de Musk, qui a réagi à un post de Lukasz Olejnik, consultant en cybersécurité et chercheur invité au Department of War Studies du King's College de Londres.
Les déclarations d'Elon Musk
Olejnik a déclaré : "Amazon tient une réunion obligatoire sur l'IA qui casse ses systèmes". Musk a répondu par "Procédez avec prudence".
Les mesures prises par Amazon
Dave Treadwell, vice-président senior des services de commerce électronique chez Amazon, a déclaré dans un courriel que la réunion hebdomadaire "This Week in Stores Tech" (TWiST) servirait en partie à mettre en place des garde-fous supplémentaires sur l'utilisation de l'IA par les ingénieurs. Cela inclut l'exigence que des ingénieurs plus expérimentés valident les modifications assistées par l'IA effectuées par des ingénieurs juniors et de niveau intermédiaire.
Un appel à la vigilance
Treadwell a précisé : "Les gens, comme vous le savez probablement, la disponibilité du site et des infrastructures associées n'a pas été bonne récemment", a-t-il écrit dans un courriel interne, selon le FT. Un porte-parole d'Amazon a déclaré à Fortune que la réunion TWiST est une réunion d'opérations hebdomadaire régulière impliquant des équipes de technologie de vente au détail pour examiner la performance opérationnelle.
Clarifications d'Amazon
Le porte-parole a ajouté : "Dans le cadre de nos activités normales, la réunion comprendra un examen de la disponibilité de notre site web et de notre application alors que nous nous concentrons sur l'amélioration continue". La société a confirmé qu'Amazon Web Services (AWS) n'était pas impliqué dans ces incidents. Amazon a précisé qu'un seul incident discuté était lié à l'IA, mais qu'aucun n'impliquait du code écrit par l'IA. De plus, les ingénieurs juniors et de niveau intermédiaire ne sont pas tenus d'obtenir l'approbation d'ingénieurs seniors pour les modifications assistées par l'IA.
Les préoccupations des experts en cybersécurité
Les pannes et la réunion qui a suivi ont suscité des inquiétudes parmi les experts en cybersécurité concernant les risques associés au déploiement rapide des outils d'IA. Des fonctionnalités comme l'assistant IA d'Amazon, Q, peuvent accélérer le processus de codage, produisant plus de code plus rapidement, mais cela peut également augmenter le risque de perturber les systèmes en ce qui concerne la manière dont ce code est écrit, vérifié et déployé, rendant ainsi les plateformes plus vulnérables aux pannes, a déclaré Olejnik à Fortune.
La nécessité d'une approche réfléchie
Olejnik a déclaré : "Je ne fais pas un argument contre le déploiement de l'IA. Il n'y en a pas. Cela ne peut pas être arrêté. Tout le monde va déployer de l'IA. C'est un argument contre la vitesse pour elle-même ou d'utiliser l'IA pour le simple plaisir de l'utiliser".
Les licenciements chez Amazon
À la fin de l'année dernière, Amazon a commencé à licencier des milliers de travailleurs, invoquant le désir de devenir plus efficace et d'aligner l'entreprise culturellement. Ces licenciements se sont poursuivis cette année, l'entreprise réduisant son effectif de 16 000 personnes supplémentaires en janvier. Pendant ce temps, Amazon continue d'investir massivement dans l'IA, prévoyant 200 milliards de dollars en dépenses d'investissement (capex) en 2026, contre 131 milliards de dollars en 2025.
Elon Musk et l'avenir de l'IA
Musk a précédemment affirmé que l'IA surpassera complètement le codage d'ici fin 2026. Olejnik a averti que la transition d'un codage centré sur l'humain vers des systèmes gérés par l'IA trop rapidement pourrait entraîner des vérifications de sécurité manquées, ce qui pourrait provoquer des temps d'arrêt prolongés ou des pertes de données, pouvant conduire à "faire exploser" une entreprise en raison d'un déploiement irresponsable de l'IA.
Un consensus sur l'attention nécessaire
Lorsqu'il a été interrogé, Olejnik a déclaré qu'il partageait la même vision que Musk concernant le niveau d'attention que le déploiement de l'IA dans la technologie devrait nécessiter. "Je suis d'accord avec lui. L'IA offre de nombreuses opportunités, mais il existe un juste milieu entre devenir obsolète en ne utilisant pas l'IA, et faire exploser des entreprises en raison de déploiements mal jugés".
Cette histoire a été initialement publiée sur Fortune.com.
