LaserTagger

LaserTagger ist ein Text-Editierungsmodell, das eine Sequenz von token-basierten Editierungsoperationen vorhersagt, um einen Quelltext in einen Zieltext umzuwandeln. Das Modell unterstützt derzeit vier verschiedene Editierungsoperationen:

• Token beibehalten
• Token löschen
• Phrase vor dem Token hinzufügen
• Reihenfolge der Eingabesätze ändern (wenn es zwei gibt)

Operation 3 kann mit 1 und 2 kombiniert werden. Im Vergleich zu Sequenz-zu-Sequenz-Modellen ist LaserTagger weniger anfällig für Halluzinationen, dateneffizienter und schneller bei der Inferenzzeit.

Vorteile von LaserTagger

• Weniger anfällig für Halluzinationen
• Dateneffizienter
• Schneller bei der Inferenzzeit

Anwendung von LaserTagger

Um LaserTagger zu verwenden, müssen die folgenden Schritte ausgeführt werden:

1. Optimierung des Vokabulars von Phrasen, die hinzugefügt werden können
2. Konvertierung von Zieltexten in Ziel-Tag-Sequenzen
3. Feinabstimmung eines vortrainierten BERT-Modells, um die Tags vorherzusagen
4. Berechnung von Vorhersagen
5. Bewertung der Vorhersagen

Implementierung

LaserTagger ist in Python 3, TensorFlow und BERT implementiert und funktioniert mit CPU, GPU und Cloud TPU.

Ausführliche Informationen

Eine detaillierte Methodenbeschreibung und Bewertung finden Sie in unserem EMNLP'19-Papier: https://arxiv.org/abs/1909.01187

Verwendung

Um LaserTagger zu verwenden, können Sie den folgenden Befehl ausführen:

sh run_wikisplit_experiment.sh

nachdem Sie die Pfade am Anfang des Skripts gesetzt haben.

Hinweis: Der Text sollte vor der Anwendung von LaserTagger tokenisiert werden, wobei die Token durch Leerzeichen getrennt sind.