La perspective de voir l’intelligence artificielle s’améliorer elle-même et concevoir des versions ultérieures a quitté le domaine de la science-fiction pour entrer dans celui de la recherche universitaire. Des spécialistes chinois examinent les conditions nécessaires à l’amélioration récursive, ou RSI, un processus dans lequel un système d’IA pourrait évaluer ses propres limites, modifier ses méthodes d’entraînement et utiliser les résultats pour créer des modèles de plus en plus performants.
La proposition aborde également un défi majeur auquel est confrontée l’industrie technologique : l’augmentation des coûts financiers et informatiques liés au développement de systèmes plus sophistiqués. Si l’IA pouvait progressivement prendre en charge certaines tâches de recherche et d’optimisation, le développement de nouvelles générations de modèles pourrait devenir plus rapide et moins dépendant des équipes humaines.
L’étude a été publiée sous forme de prépublication sur arXiv le 10 septembre et n’a pas encore fait l’objet d’une évaluation par les pairs. Elle présente cinq niveaux d’autonomie, en commençant par des systèmes dont le développement reste largement dirigé par des humains et en progressant vers des modèles capables d’identifier leurs faiblesses, de choisir comment les corriger et de modifier les procédures utilisées pour leur propre amélioration.
Aux niveaux les plus élevés, une IA pourrait produire ce que les chercheurs décrivent comme des « méta-améliorations ». Plutôt que d’ajuster des tâches individuelles ou des paramètres internes, le système perfectionnerait les mécanismes qu’il utilise pour apprendre et se développer.
Les premières expériences n’ont montré que des progrès partiels. Un test a utilisé une méthode appelée A-Evolve-Training pour optimiser un modèle de langage doté de 30 milliards de paramètres. Au cours de quatre étapes, le système a appliqué différentes stratégies d’entraînement et utilisé les données obtenues pour orienter ses décisions ultérieures, ce qui a produit des améliorations modérées lors des tests de performance.
Ces résultats ne démontrent pas qu’une IA peut créer de manière autonome une génération de modèles plus intelligente. Peter Bentley, professeur de biologie numérique à l’University College London, a déclaré à Live Science qu’il ne considère pas de telles expériences comme une voie crédible vers l’amélioration récursive. Il a souligné que les logiciels conçus pour optimiser leur propre fonctionnement existent depuis des décennies, notamment grâce à l’informatique évolutionniste et à l’apprentissage par renforcement, mais il a estimé que la difficulté centrale consiste à permettre à une machine de diriger les recherches nécessaires à de véritables progrès.
Bentley a également déclaré qu’une amélioration durable nécessiterait davantage que des changements logiciels. Un système devrait améliorer son propre entraînement, accroître les ressources disponibles grâce au matériel physique et réussir des tests exigeants dans des conditions réelles. Le besoin de puissance de calcul et d’infrastructures techniques demeure donc une limitation décisive.
Kayla Blomquist, chercheuse à l’Université d’Oxford et cofondatrice de l’Oxford China Policy Lab, a déclaré que l’article est utile pour identifier les défis techniques et liés au contrôle associés à des systèmes plus indépendants, mais qu’il ne propose pas de voie pratique immédiate vers leur mise en œuvre. Elle s’est également demandé s’il existera un jour un point clairement défini auquel l’IA cessera de dépendre des humains, décrivant le processus comme un transfert progressif de fonctions plutôt que comme une avancée unique.
Sources: elDiario.es.