L'intelligence artificielle, un danger pour la recherche sur les civilisations extraterrestres ?
Franck Marchis, astronome et planétologue franco-américain à l'Institut SETI, met en lumière les implications de l'intelligence artificielle (IA) pour la science. Bien que l'IA offre des perspectives prometteuses, elle entraîne également des risques significatifs, comme il l'expose dans un article publié sur le site de l'Institut.
Un monde en évolution
Nous sommes de plus en plus témoins du monde que décrivaient, au début du XXIe siècle, Arthur Clarke et Isaac Asimov, notamment en ce qui concerne les avancées de l'IA, de la toile mondiale et de la robotique. Bien que nous ne possédions pas encore un HAL 9000 ou des robots positroniques, les technologies actuelles peuvent parfois donner l'illusion d'une telle réalité, ne serait-ce que pendant un bref instant.
Cependant, il est essentiel de reconnaître que les réseaux sociaux et l'IA peuvent devenir des sources majeures de désinformation, touchant non seulement le domaine scientifique. Cette situation suscite des inquiétudes croissantes, même si l'IA commence à montrer des signes d'assistance dans le développement scientifique, bien que ces avancées ne soient encore qu'à leurs balbutiements.
Les défis des images manipulées
Un enjeu majeur réside dans la capacité de l'IA à générer des images d'une qualité très réaliste. Par exemple, comment distinguer une véritable comète interstellaire d'une image créée pour nous convaincre qu'il s'agit d'une sonde extraterrestre ? Ce questionnement a conduit Franck Marchis à s'interroger sur ces problématiques dans son article sur le site de l'Institut SETI.
Malheureusement, les pionniers comme Carl Sagan, Frank Drake, et leurs homologues, notamment Nikolaï Kardashev et Iossif Chklovski, ne sont plus là pour partager leur sagesse avec nous. Cependant, Franck Marchis, récemment nommé membre de l'Académie des sciences de Californie pour l'année 2023, continue leur combat. Reconnu pour ses contributions significatives aux sciences naturelles, il se joint à d'autres scientifiques éminents de l'Institut SETI et de la Cal Academy, tels que Jill Tarter et Nathalie Cabrol.
La crise de confiance dans la recherche
En 2022, la communauté scientifique a été confrontée à une situation alarmante concernant l'utilisation de l'IA dans la recherche. Un article clé de 2006 sur la maladie d'Alzheimer, fondamental pour des années de recherches, contenait des images manipulées. Pendant plus d'une décennie, de nombreux efforts de recherche et de développement de médicaments ont reposé sur des preuves compromises.
La méthode scientifique en elle-même n’a pas échoué ; ce sont les fondements de certaines études qui se sont révélés erronés. La science ne s'effondre pas lorsque les théories sont remises en question, mais elle s'effondre lorsque les preuves sont corrompues. Les scientifiques sont souvent perçus comme les gardiens de la vérité, mais la science ne repose pas sur la vérité, mais sur l'objectivité.
La nécessité d'une intégrité des données
La science dépend de l'intégrité des données d'observation, qui sont aujourd'hui confrontées à de nouveaux défis. Les systèmes d'IA peuvent générer des images et des ensembles de données qui sont statistiquement indiscernables des données produites par l'homme. Cette génération de données synthétiques peut être le résultat d'une mauvaise utilisation intentionnelle ou d'une conséquence involontaire de l'entraînement de nouveaux systèmes, compromettant la véracité des preuves scientifiques.
Le véritable risque ne réside pas dans le remplacement des scientifiques par l'IA, mais dans l'effritement des frontières entre observation et fabrication. Imaginez une crise géopolitique provoquée par une image satellite ou une vidéo d'un phénomène aérien non identifié, sans possibilité de vérifier son authenticité. Si l'origine des données ne peut être prouvée, la confiance dans la science s'érode, ouvrant la porte au doute.
Le programme SETI face aux défis de la traçabilité
Ces interrogations sont particulièrement critiques pour le programme SETI. Lorsque nous détecterons un signal potentiellement lié à une intelligence extraterrestre, la première réaction sera probablement le scepticisme. Les questions surgiront : s'agit-il d'interférences, d'une erreur instrumentale ou d'une manipulation humaine ? Une nouvelle question doit maintenant être ajoutée : s'agit-il d'une fabrication ?
Dans la quête d'une intelligence extraterrestre, la crédibilité est tout aussi essentielle que la sensibilité. Si nous ne sommes pas capables de prouver la traçabilité des photons jusqu'à leur publication, le signal ne résistera pas à l'examen.
SkyMapper : une réponse innovante
C'est l'une des raisons qui ont conduit Franck Marchis à concevoir SkyMapper, un réseau distribué de télescopes et d'instruments accessibles via le Web3. Ce système vise à garantir la vérifiabilité des observations, qu'elles proviennent de satellites ou de potentielles technosignatures.
Oui, il utilise la technologie blockchain, non pas pour le battage médiatique, mais comme un registre distribué et infalsifiable, à l'instar des systèmes financiers qui empêchent les modifications non autorisées. En science, ce registre peut ancrer les observations dans le temps, l'espace et l'instrument, garantissant ainsi l'authenticité des données.
Conclusion : Vers une science plus rigoureuse
La force de la science ne réside pas dans sa prétention à détenir la vérité, mais dans sa capacité à préserver l'objectivité. L'objectivité commence à la source, et il est impératif d'assurer l'intégrité des données pour bâtir une science significative et crédible.
Source : Institut SETI
