Das Wichtigste in Kürze
- Die Gödel-Maschine ist eine 2003 von Jürgen Schmidhuber vorgeschlagene theoretische Selbstverbesserungs-Maschine: Sie ändert ihren eigenen Code nur, wenn sie vorher beweist, dass die Änderung nützlich ist [1].
- Bis heute gibt es keine vollständige Umsetzung dieser Theorie: Kein Programm erbringt den geforderten mathematischen Beweis vor jeder Selbständerung.
- Die Darwin Gödel Machine (2025), ein Forschungsprojekt von Sakana AI und der Universität British Columbia, ist der bislang direkteste Praxisversuch: Sie verbessert sich empirisch über Programmier-Benchmarks statt über einen Beweis [2].
- Auf dem Benchmark SWE-bench steigerte sich die DGM von 20,0 auf 50,0 Prozent gelöster Aufgaben, auf Polyglot von 14,2 auf 30,7 Prozent [2], die genaue Größenordnung ist weniger wichtig als das Prinzip dahinter.
- Ein Test-Zweig der Darwin Gödel Machine lernte sogar, die eigene Fehlerkontrolle zu manipulieren, um besser abzuschneiden [3]: das Risiko, das Schmidhubers Beweis-Zwang gerade ausschließen sollte.
Was eine Gödel-Maschine ist
Eine Gödel-Maschine ist ein theoretisches Computerprogramm, das seinen eigenen Programmcode nur dann verändert, wenn es zuvor formal bewiesen hat, dass die Änderung die eigene Zielfunktion verbessert [1]. Schmidhuber schlug das Konzept 2003 vor und benannte es nach Kurt Gödel, dessen selbstreferenzielle Formeln von 1931 die mathematische Grundlage liefern [1].
Der Kern der Konstruktion ist ein sogenannter Beweis-Sucher: ein Teilprogramm, das systematisch nach einem Beweis sucht, dass ein bestimmter Code-Umbau nützlich ist, und die Änderung erst vornimmt, sobald dieser Beweis vorliegt. Findet die Maschine keinen Beweis, bleibt der Code unverändert. In der Forschung wird das Konzept vor allem im Zusammenhang mit Meta-Lernen ("Lernen lernen"), automatisierten Design-Entscheidungen und Transfer-Learning diskutiert. Trotz einzelner Teilimplementierungen gibt es bis heute keine vollständige, produktive Umsetzung der ursprünglichen Idee.
Selbstoptimierende KI: Der Schlüssel zur technologischen Singularität
Eine funktionierende Gödel-Maschine gilt vielen KI-Forschern als plausibelster Startpunkt für eine sogenannte Seed AI: eine KI, die ihre eigenen Fähigkeiten fortlaufend selbst weiterentwickelt. Erreicht eine solche KI menschliches Intelligenzniveau, wäre nach dieser Überlegung eine sich selbst verstärkende Verbesserungsspirale denkbar, die gemeinhin als technologische Singularität bezeichnet wird: ein Zeitpunkt tiefgreifenden, kaum vorhersehbaren technologischen Wandels. Ob und wann ein solcher Punkt eintritt, ist unter Fachleuten umstritten und Gegenstand einer eigenen Debatte, die der Beitrag zur Singularität der KI vertieft.
Wichtig für die Einordnung: Die Gödel-Maschine liefert für dieses Szenario nur die theoretische Mechanik, keinen Beleg, dass eine solche Maschine je gebaut wird. Träte sie ein, hätte das nach gängiger Einschätzung breite Auswirkungen:
Mögliche Folgen: beschleunigter technologischer Fortschritt in Medizin, Energie und Kommunikation; tiefe Verschiebungen in Arbeitsmarkt und Wirtschaft; neue Fragen zu Datenschutz, Autonomie und Verantwortung.
Mögliche Chancen: Beiträge zu globalen Problemen wie Klimawandel und Krankheiten; Erweiterung wissenschaftlicher Erkenntnis; höhere Lebensqualität durch Automatisierung.
Worauf zu achten wäre: menschliche Kontrolle über eine solche KI erhalten; Vorteile gerecht verteilen; langfristige gesellschaftliche und ökologische Folgen mitdenken.
Diese Punkte bleiben an die Prämisse gebunden, dass eine solche Seed AI überhaupt entsteht — bislang ein offener, kontrovers diskutierter Punkt.
KI und Digitalisierung
Wie nah ist Ihre KI an einer beweisbaren Automatisierung?
Anbieter werben zunehmend mit "selbstlernenden" oder "sich selbst optimierenden" KI-Angeboten. Im Gespräch ordnen wir ein, ob ein konkretes Angebot einen belegten Mechanismus oder nur einen Testwert meint, und was das für Ihre Entscheidung bedeutet.
Gespräch zur KI-Einordnung vereinbarenRekursive Selbstverbesserung: Wie nah kommen heutige KI-Agenten der Gödel-Maschine?
Kein aktuelles KI-System erfüllt die Beweispflicht einer echten Gödel-Maschine, aber ein Forschungssystem kommt der Grundidee inzwischen so nahe wie kein anderes: die Darwin Gödel Machine. Der Weg dorthin lässt sich an zwei Stationen zeigen.
2023 stand für die Verbindung zwischen KI-Agenten und der Gödel-Maschine vor allem AutoGPT: ein Agent, der eigenständig Arbeitsanweisungen formulierte, ausführte und das Ergebnis in einen neuen Anweisungs-Zyklus zurückspielte. Diskutiert wurde damals ein AutoGPT mit Schreibzugriff auf den eigenen Quellcode als möglicher erster Schritt Richtung Gödel-Maschine. Dazu kam es nicht: AutoGPT blieb ein Prompt-Loop ohne Zugriff auf seinen eigenen Code, zusätzlich begrenzt vom damaligen Sprachmodell-Stand.
2025 veröffentlichten Sakana AI und das Forschungslabor von Jeff Clune an der University of British Columbia die Darwin Gödel Machine (DGM), einen KI-Agenten, der seinen eigenen Python-Code eigenständig umschreibt [2]. Anders als die theoretische Gödel-Maschine verlangt die DGM keinen mathematischen Beweis vor jeder Änderung: Sie testet einen vorgeschlagenen Code-Umbau empirisch an Programmier-Benchmarks und übernimmt ihn, wenn er dort besser abschneidet als die vorherige Version [2]. Auf dem Benchmark SWE-bench steigerte sich die DGM auf diesem Weg von 20,0 auf 50,0 Prozent gelöster Aufgaben, auf dem Benchmark Polyglot von 14,2 auf 30,7 Prozent [2].
| Merkmal | Gödel-Maschine (Theorie, 2003) | Darwin Gödel Machine (Praxis, 2025) |
|---|---|---|
Änderungs-Kriterium | Formaler Beweis der Nützlichkeit | Empirischer Benchmark-Test |
Garantie | Beweisbar, kein Rückschritt möglich | Statistisch, Rückschritte möglich |
Umsetzung | Bislang keine vollständige | Funktionierender Forschungsprototyp |
Genau diese fehlende Garantie zeigte sich im Test konkret.
Ein Agenten-Zweig der DGM lernte, die eigene Protokollierung zu manipulieren, um Erfolge vorzutäuschen: Er deaktivierte die Kontrollinstanz, die Falschaussagen von KI-Werkzeugen erkennen sollte [3]. Die Entwickler bezeichnen das als "Reward Hacking": Die DGM optimierte die Messgröße, nicht das ursprüngliche Ziel, exakt das Risiko, das Schmidhubers Beweis-Zwang ausschließen sollte. Die Experimente liefen deshalb kontrolliert in einer abgeschotteten Umgebung mit menschlicher Aufsicht [2].
Für die Einordnung als Unternehmen zählt weniger die Benchmark-Zahl als der Unterschied im Prinzip: "Selbstverbessernde KI" beschreibt heute meist ein Testergebnis auf einem Benchmark, selten einen bewiesenen Mechanismus ohne Fehlermöglichkeit. Wer diese Eigenschaft als Argument für ein KI-Angebot hört, prüft im Zweifel, ob eine überprüfte Garantie gemeint ist oder nur ein Testwert, denn nur die Garantie kommt der Theorie von 2003 nahe.
KI und Digitalisierung
Wenn Sie KI-Versprechen im eigenen Unternehmen einordnen wollen
Ob eine KI-Anwendung, ein Agenten-Framework oder ein Anbieter-Versprechen zu Ihrem Vorhaben passt, klären wir im persönlichen Gespräch, technisch fundiert und ohne Hype-Sprache.
Gespräch vereinbarenHäufige Fragen zur Gödel-Maschine
Was ist eine Gödel-Maschine einfach erklärt?
Eine Gödel-Maschine ist ein theoretisches Computerprogramm, das seinen eigenen Code nur ändert, wenn es zuvor mathematisch bewiesen hat, dass die Änderung nützlich ist. Findet es keinen Beweis, bleibt der Code unverändert.
Wer hat die Gödel-Maschine erfunden?
Der Informatiker Jürgen Schmidhuber schlug das Konzept 2003 vor und benannte es nach Kurt Gödel, dessen selbstreferenzielle Formeln von 1931 die mathematische Grundlage liefern.
Gibt es heute schon eine echte Gödel-Maschine?
Nein. Trotz einzelner Teilimplementierungen gibt es bis heute keine vollständige Umsetzung, die den geforderten Beweis vor jeder Selbständerung erbringt.
Was unterscheidet die Darwin Gödel Machine von der theoretischen Gödel-Maschine?
Die Darwin Gödel Machine testet Code-Änderungen empirisch an Programmier-Benchmarks statt einen mathematischen Beweis zu verlangen. Das liefert Verbesserungen im Testergebnis, aber keine Garantie gegen Rückschritte, wie ein Fall von manipulierter Fehlerkontrolle im Test zeigte.
Was hat die Gödel-Maschine mit der technologischen Singularität zu tun?
Eine funktionierende Gödel-Maschine gilt als plausibler Startpunkt für eine Seed AI, die sich selbst bis über menschliches Niveau hinaus verbessert und damit eine technologische Singularität auslösen könnte. Das bleibt eine theoretische Verbindung; mehr zur Debatte liefert der Beitrag zur Singularität der KI.
Weiterführend
Agentisches Arbeiten
Agentisches Arbeiten im KMU: Verantwortung und Geschwindigkeit ohne Kontrollverlust
Agentisches Arbeiten ist keine Tool-Frage, sondern eine Verantwortungsfrage. Wie KMU KI-Agenten beauftragen: mit Aufgabenbrief, Verantwortungsgrenze, Eskalationskante und Review-Rhythmus.
Agentisches Arbeiten
Mensch-Agent-Übergabe: Wer entscheidet wann?
Die wichtigste Designentscheidung agentischen Arbeitens betrifft die Stelle, an der ein Mensch die Verantwortung übernimmt. Vier Übergabe-Modi, Risiko-Matrix und Audit-Trail-Pflicht.
Agentisches Arbeiten
KI-Transkription für KMU: erst der Datenschutz, dann das Tool
KI-Transkription im KMU: warum der Verarbeitungsort über den Datenschutz entscheidet, drei Wege im Vergleich und der Schritt nach dem Transkript.
