Forscher am MIT haben durch ein „Konsensspiel“, basierend auf Spieltheorie, die Konsistenz und Genauigkeit von KI-Sprachmodellen verbessert, indem sie unterschiedliche Antwortfunktionen zur Einigung und Erreichung eines Nash-Gleichgewichts anregen.

Moderne KI-Sprachmodelle wie ChatGPT beeindrucken zwar durch ihre Fähigkeiten, aber ihre Antworten können inkonsistent sein, wenn verschiedene Frageformulierungen genutzt werden. Forscher vom Massachusetts Institute of Technology haben nun eine spannende Lösung vorgestellt, die Spieltheorie nutzt, um diese Unstimmigkeiten zu überwinden.

Das neu entwickelte „Konsensspiel“ fordert ein KI-Modell heraus, durch interne Auseinandersetzung zu einer einheitlichen und korrekten Antwort zu kommen. In diesem Spiel agieren zwei Funktionen des Modells – der Generator für generative Fragen und der Diskriminator für Wahlfragen – in einem gegenseitigen Bewertungsprozess. Sie beantworten Fragen und bewerten die Antworten der jeweils anderen Komponente, motiviert durch Punktesysteme, die sowohl Korrektheit als auch Übereinstimmung belohnen.

Ein Schlüsselkonzept hierbei ist das Nash-Gleichgewicht, benannt nach dem Mathematiker John Nash. Es beschreibt einen Zustand, in dem keine Seite ihren Nutzen durch einseitige Änderung der Strategie verbessern kann. Im Kontext des Konsensspiels bedeutet dies, dass sowohl der Generator als auch der Diskriminator zu einer Übereinstimmung gelangen, bei der beide glauben, die optimale Antwort gefunden zu haben, basierend auf den verfügbaren Daten und vorherigen Bewertungen. Dieses Gleichgewicht erhöht nicht nur die Genauigkeit der Antworten, sondern sorgt auch für konsistente Antworten unabhängig von der Frageformulierung.

Die Forschung zeigt, dass durch die Anwendung dieser Methode selbst mittelgroße Modelle eine bessere Antwortqualität erreichen können als wesentlich größere Modelle, die nicht nach diesem Prinzip arbeiten. Dieses Verfahren verspricht eine spannende neue Richtung in der Entwicklung von KI-Technologien, indem es zeigt, wie spieltheoretische Konzepte direkt zur Verbesserung von maschinellem Lernen eingesetzt werden können.

Mit der fortschreitenden Integration von Spieltheorie in die KI-Forschung könnten solche Ansätze nicht nur die Leistungsfähigkeit verbessern, sondern auch die Interaktion zwischen Menschen und Maschinen weiter verfeinern, was zu intelligenteren und zuverlässigeren Systemen führt.

John Forbes Nash Jr. (1928-2015) war ein einflussreicher amerikanischer Mathematiker, der in den Bereichen Spieltheorie, Differentialgeometrie und partielle Differentialgleichungen bedeutende Beiträge leistete. Nash ist vor allem für seine Arbeit in der Spieltheorie bekannt, für die er 1994 den Nobelpreis für Wirtschaftswissenschaften erhielt. Sein Konzept des Nash-Gleichgewichts, das eine Situation beschreibt, in der kein Spieler seinen Gewinn durch einseitige Änderung seiner Strategie verbessern kann, ist in vielen wirtschaftlichen und strategischen Anwendungen grundlegend.

Nash promovierte 1950 an der Princeton University. Seine Karriere wurde jedoch durch seinen Kampf mit Schizophrenie, der in den 1950er Jahren begann, erheblich beeinträchtigt. Trotz der Schwere seiner Erkrankung, kehrte Nash in den 1980er Jahren in die aktive akademische Forschung zurück. Sein Leben und seine Karriere wurden im Buch „A Beautiful Mind“ von Sylvia Nasar dokumentiert, das später auch als Film adaptiert wurde und weitere öffentliche Anerkennung für Nashs Lebenswerk und Herausforderungen brachte. Nash starb 2015 zusammen mit seiner Frau bei einem Verkehrsunfall.