La posibilidad de que la inteligencia artificial se mejore a sí misma y diseñe versiones posteriores ha dejado de ser ciencia ficción para entrar en el ámbito de la investigación académica. Especialistas en China están examinando las condiciones necesarias para la mejora recursiva de sí misma, o RSI, un proceso en el que un sistema de IA podría evaluar sus propias limitaciones, modificar sus métodos de entrenamiento y utilizar los resultados para construir modelos cada vez más capaces.

La propuesta también aborda un desafío importante al que se enfrenta la industria tecnológica: el aumento de los costes financieros y computacionales de desarrollar sistemas más sofisticados. Si la IA pudiera asumir gradualmente algunas tareas de investigación y optimización, el desarrollo de nuevas generaciones de modelos podría volverse más rápido y depender menos de los equipos humanos.

El estudio se publicó como prepublicación en arXiv el 10 de septiembre y todavía no ha sido sometido a revisión académica por pares. Presenta cinco niveles de autonomía, comenzando con sistemas cuyo desarrollo sigue estando dirigido en gran medida por personas y avanzando hacia modelos capaces de identificar sus debilidades, elegir cómo corregirlas y modificar los procedimientos utilizados para su propia mejora.

En los niveles más altos, una IA podría producir lo que los investigadores describen como “meta-mejoras”. En lugar de ajustar tareas individuales o parámetros internos, el sistema perfeccionaría los mecanismos que utiliza para aprender y desarrollarse.

Los primeros experimentos solo han mostrado avances parciales. En una prueba se utilizó un método llamado A-Evolve-Training para optimizar un modelo lingüístico con 30.000 millones de parámetros. A lo largo de cuatro etapas, el sistema aplicó distintas estrategias de entrenamiento y utilizó los datos resultantes para orientar decisiones posteriores, produciendo mejoras moderadas en las pruebas de rendimiento.

Esos resultados no demuestran que una IA pueda crear de forma independiente una generación de modelos más inteligente. Peter Bentley, profesor de Biología Digital en el University College de Londres, declaró a Live Science que no considera que tales experimentos constituyan una vía creíble hacia la mejora recursiva de sí misma. Señaló que el software diseñado para optimizar su propio funcionamiento existe desde hace décadas, incluso mediante la computación evolutiva y el aprendizaje por refuerzo, pero sostuvo que la dificultad central consiste en permitir que una máquina dirija la investigación necesaria para lograr avances genuinos.

Bentley también afirmó que una mejora sostenida exigiría algo más que cambios en el software. Un sistema tendría que mejorar su propio entrenamiento, ampliar los recursos disponibles mediante hardware físico y superar pruebas exigentes en condiciones del mundo real. Por tanto, la necesidad de capacidad de cómputo e infraestructura técnica sigue siendo una limitación decisiva.

Kayla Blomquist, investigadora de la Universidad de Oxford y cofundadora del Oxford China Policy Lab, afirmó que el artículo resulta útil para identificar los desafíos técnicos y de control asociados con sistemas más independientes, pero no ofrece una vía práctica inmediata para su implementación. También cuestionó que llegue a existir un punto claramente definido en el que la IA deje de depender de las personas, y describió el proceso como una transferencia gradual de funciones en lugar de un único avance decisivo.

Fuentes: elDiario.es.