Im alten Rom war der ludus der Ort, an dem rohes Potenzial zu disziplinierter Fähigkeit wurde.
IV ist überzeugt, dass KI dieselbe bewusste Formung verdient.
Die KI-Branche hat einen außergewöhnlichen Sprung an Leistungsfähigkeit hinter sich. Large Language Models können schlussfolgern, programmieren, sich unterhalten und erschaffen, und das mit verblüffender Selbstverständlichkeit. Eine Frage hat die Branche dabei weitgehend ausgelassen. Nämlich nicht, wie mächtig wir diese Systeme machen können, sondern wie gut wir sie erziehen.
Heutige Alignment-Ansätze behandeln Werte als etwas, das nach der Leistungsfähigkeit aufgetragen wird, als Retrofit statt als Fundament. Das Ergebnis ist eine wachsende Klasse von KI-Systemen, die mächtig sind, sich gut ausdrücken und den Menschen, denen sie dienen, strukturell zuwiderlaufen.
Ein Kind, das „heiß heißt nicht anfassen" lernt, bevor es Thermodynamik versteht, hat eine Erziehung, in der Werte zuerst kommen. Es geht von Anfang an vorsichtig mit Feuer um. Heutiges KI-Training macht es umgekehrt. Es baut das leistungsfähigste System, das möglich ist, und versucht ihm danach beizubringen, was es nicht tun soll.
Das ist das Retrofit-Problem. Seine strukturellen Folgen sind in jedem großen KI-System zu sehen, das heute im Einsatz ist.
Die VII strukturellen Probleme heutigen Alignments, betrachtet durch die Brille der Entwicklungspsychologie. Warum nachgerüstetes Alignment scheitert, was eine stufenweise Werteentwicklung stattdessen erreicht, und wohin die Wissenschaft schon zeigte, bevor es KI überhaupt gab.
Diagnose lesen →Wie es in der Praxis aussieht, wenn Alignment die Architektur ist und nicht der Anstrich. Fünf Stufen, sieben Prinzipien, Urteilsvermögen als Meta-Eigenschaft, und Freigaben, die nachgewiesene Reife verlangen statt optimierter Belohnung.
Methodik lesen →Wir erforschen entwicklungsorientierte Ansätze für das Training von Modellen, also Methoden, die Werte in die Architektur von Intelligenz einbauen statt auf ihre Oberfläche.
Mehr folgt.