Center for Human-Compatible AI
Das Center for Human-Compatible AI arbeitet daran, herausragende KI für die Menschheit zu entwickeln. Ihre Mission ist es, die konzeptionellen und technischen Voraussetzungen zu schaffen, um die allgemeine Richtung der KI-Forschung hin zu nachweislich vorteilhaften Systemen zu lenken.
Kernpunkte: Die Forscher des Zentrums beschäftigen sich mit verschiedenen Aspekten der KI. Zum Beispiel warnen sie vor den Risiken, die KI in diesem Wahlzyklus durch Text und Sprache darstellt. Zudem veröffentlichen sie Forschungsarbeiten zu Themen wie der Ausrichtung von KI mit sich verändernden und beeinflussbaren Belohnungsfunktionen sowie der Milderung der partiellen Beobachtbarkeit in Entscheidungsprozessen.
Das Zentrum legt auch Wert auf die Berücksichtigung sozialer Wahl in der Ausrichtung von KI im Umgang mit vielfältigem menschlichen Feedback. Interessierte können sich für den Newsletter anmelden, um über Neuigkeiten und Updates informiert zu bleiben.
