Summarizing Books with Human Feedback

Die sichere Implementierung von künstlicher Intelligenz (KI) in der Zukunft erfordert, dass Maschinenlernenmodelle im Einklang mit menschlichen Absichten handeln. Dieses Problem wird als Ausrichtungsproblem bezeichnet. Ein skalierbarer Lösungsansatz für das Ausrichtungsproblem muss auf Aufgaben funktionieren, bei denen die Ausgaben von Modellen schwierig oder zeitaufwendig für Menschen zu bewerten sind.

Ansatz: Kombination von Verstärkendem Lernen mit menschlicher Rückmeldung und rekursiver Aufgabenzerlegung

Unser Ansatz kombiniert Verstärkendes Lernen mit menschlicher Rückmeldung und rekursiver Aufgabenzerlegung, um Bücher zusammenzufassen. Wir haben ein Modell entwickelt, das in der Lage ist, Bücher von beliebiger Länge zusammenzufassen, indem es zuerst kleine Abschnitte des Buches zusammenfasst und dann diese Zusammenfassungen rekursiv zu einer höheren Ebene zusammenfasst.

Ergebnisse

Unser bestes Modell, das auf GPT-3 feinjustiert wurde, generiert sinnvolle Zusammenfassungen ganzer Bücher, die in einigen Fällen sogar die Qualität von menschlich geschriebenen Zusammenfassungen erreichen. Es erreicht auch state-of-the-art-Ergebnisse auf dem BookSum-Datensatz für die Zusammenfassung von Büchern und competitive Ergebnisse auf dem NarrativeQA-Datensatz für die Beantwortung von Fragen zu Büchern.

Warum wir an diesem Projekt arbeiten

Dieses Projekt ist Teil unserer laufenden Forschung zur Ausrichtung von fortschrittlichen KI-Systemen, die für unsere Mission von entscheidender Bedeutung ist. Wenn wir unsere Modelle auf immer komplexere Aufgaben trainieren, wird es für Menschen immer schwieriger, die Ausgaben der Modelle zu bewerten. Dies macht es schwieriger, subtile Probleme in den Modellausgaben zu erkennen, die zu negativen Konsequenzen führen können, wenn diese Modelle implementiert werden.

Zusammenfassung

Die Zusammenfassung von Büchern mit menschlicher Rückmeldung ist ein wichtiger Schritt auf dem Weg zur sicheren Implementierung von KI. Unser Ansatz kombiniert Verstärkendes Lernen mit menschlicher Rückmeldung und rekursiver Aufgabenzerlegung, um Bücher von beliebiger Länge zusammenzufassen. Wir hoffen, dass unsere Forschung dazu beiträgt, die Ausrichtung von KI-Systemen zu verbessern und die Implementierung von KI in der Zukunft sicherer zu machen.