OpenAI hat die Einführung eines neuen Teams bekannt gegeben, das sich auf die Entwicklung von wissenschaftlichen und technischen Durchbrüchen konzentriert, um KI-Systeme zu steuern und zu kontrollieren, die viel intelligenter sind als wir. Dieses Team wird von Ilya Sutskever und Jan Leike geleitet und widmet 20% der bisher gesicherten Rechenleistung diesem Projekt.

Die Superausrichtung wird als die einflussreichste Technologie betrachtet, die die Menschheit jemals erfunden hat. Sie könnte uns helfen, viele der wichtigsten Probleme der Welt zu lösen. Allerdings könnte die enorme Macht der Superausrichtung auch sehr gefährlich sein und zur Entmachtung der Menschheit oder sogar zur Auslöschung der Menschheit führen.

Das Team plant, einen automatisierten Ausrichtungsforscher auf etwa menschlichem Niveau zu entwickeln. Mit Hilfe von umfangreichen Rechenleistungen können die Bemühungen skaliert und die Superausrichtung iterativ ausgerichtet werden.

Um die erste automatisierte Ausrichtungsforscherin auszurichten, müssen 1) eine skalierbare Trainingsmethode entwickelt, 2) das resultierende Modell validiert und 3) die gesamte Ausrichtungspipeline stressgetestet werden.

Das Team plant, die grundlegenden technischen Herausforderungen der Superausrichtung innerhalb von vier Jahren zu lösen. Dies ist ein unglaublich ehrgeiziges Ziel und es ist nicht garantiert, dass es gelingt. Allerdings sind sie optimistisch, dass eine konzentrierte, gemeinsame Anstrengung dieses Problem lösen kann.