Forscher skizzieren fünf Stufen auf dem Weg zu sich selbst verbessernder KI

Die Aussicht, dass künstliche Intelligenz sich selbst verbessert und spätere Versionen entwickelt, ist über die Science-Fiction hinaus in die akademische Forschung vorgedrungen. Fachleute in China untersuchen die Voraussetzungen für rekursive Selbstverbesserung, kurz RSI, einen Prozess, bei dem ein KI-System seine eigenen Grenzen beurteilen, seine Trainingsmethoden verändern und die Ergebnisse nutzen könnte, um zunehmend leistungsfähigere Modelle zu entwickeln.

Der Vorschlag befasst sich außerdem mit einer großen Herausforderung der Technologiebranche: den steigenden finanziellen und rechnerischen Kosten für die Entwicklung anspruchsvollerer Systeme. Wenn KI schrittweise einige Forschungs- und Optimierungsaufgaben übernehmen könnte, ließe sich die Entwicklung neuer Modellgenerationen möglicherweise beschleunigen und weniger von menschlichen Teams abhängig machen.

Die Studie wurde am 10. September als Preprint auf arXiv veröffentlicht und hat noch kein akademisches Peer-Review durchlaufen. Sie stellt fünf Autonomiestufen vor, beginnend mit Systemen, deren Entwicklung weiterhin weitgehend von Menschen gesteuert wird, und fortschreitend zu Modellen, die ihre Schwächen erkennen, entscheiden können, wie diese korrigiert werden, und die für ihre eigene Verbesserung eingesetzten Verfahren verändern können.

Auf den höchsten Stufen könnte eine KI das hervorbringen, was die Forscher als „Meta-Verbesserungen“ bezeichnen. Statt einzelne Aufgaben oder interne Parameter anzupassen, würde das System die Mechanismen verfeinern, die es zum Lernen und Entwickeln nutzt.

Frühe Experimente haben bislang nur teilweise Fortschritte gezeigt. In einem Test wurde eine Methode namens A-Evolve-Training eingesetzt, um ein Sprachmodell mit 30 Milliarden Parametern zu optimieren. In vier Stufen wandte das System verschiedene Trainingsstrategien an und nutzte die daraus gewonnenen Daten, um spätere Entscheidungen zu steuern, wodurch sich moderate Verbesserungen bei Leistungstests ergaben.

Diese Ergebnisse zeigen nicht, dass eine KI eigenständig eine intelligentere Generation von Modellen entwickeln kann. Peter Bentley, Professor für digitale Biologie am University College London, sagte gegenüber Live Science, dass er solche Experimente nicht als glaubwürdigen Weg zur rekursiven Selbstverbesserung betrachtet. Er wies darauf hin, dass Software zur Optimierung des eigenen Betriebs bereits seit Jahrzehnten existiert, unter anderem durch evolutionäre Datenverarbeitung und bestärkendes Lernen, argumentierte jedoch, die zentrale Schwierigkeit bestehe darin, eine Maschine dazu zu befähigen, die für echten Fortschritt erforderliche Forschung zu steuern.

Bentley sagte außerdem, dass anhaltende Verbesserungen mehr als Veränderungen an der Software erfordern würden. Ein System müsste sein eigenes Training verbessern, die durch physische Hardware verfügbaren Ressourcen erweitern und anspruchsvolle Tests unter realen Bedingungen bestehen. Der Bedarf an Rechenleistung und technischer Infrastruktur bleibt daher eine entscheidende Einschränkung.

Kayla Blomquist, Forscherin an der University of Oxford und Mitbegründerin des Oxford China Policy Lab, sagte, die Arbeit sei nützlich, um die technischen und Kontrollprobleme im Zusammenhang mit unabhängigeren Systemen zu identifizieren, biete jedoch keinen unmittelbaren praktischen Weg zur Umsetzung. Sie stellte außerdem infrage, ob es jemals einen klar definierten Punkt geben werde, an dem KI nicht mehr von Menschen abhängig ist, und beschrieb den Prozess eher als schrittweise Übertragung von Funktionen denn als einzelnen Durchbruch.

Quellen: elDiario.es.