Galactical AI

Die KI-Abteilung von Meta hat kürzlich ein neues großes Sprachmodell namens Galactica vorgestellt, das auf einem Corpus wissenschaftlicher Forschungsliteratur trainiert wurde. Das Modell soll Wissenschaftlern und Studierenden helfen, komplexe wissenschaftliche Texte zu verstehen und zu generieren. Doch nach nur drei Tagen musste die öffentliche Demo des Modells wieder abgeschaltet werden, nachdem Kritiker auf gravierende Schwächen hingewiesen hatten.

Das Galactica-Modell

Galactica ist ein offenes KI-Tool, das auf GitHub in einem Repository namens galai des Teams "Papers with Code" hinterlegt ist. Das Modell wurde auf einem Corpus von 48 Millionen Forschungsdokumenten trainiert und kann Zitate vorhersagen, LaTeX erzeugen, logische Schlüsse ziehen, Dokumente erstellen, Moleküle generieren und Protein-Annotationen erzeugen. Die Website des Modells führt Beispiele für mögliche Einsatzzwecke auf, wie z.B. die Erstellung von Fachrezensionen, Wikipedia-Einträgen, Vortragsmitschriften und machinengenerierten Antworten auf Fachfragen.

Kritik und Schwächen

Kritiker haben jedoch auf gravierende Schwächen des Modells hingewiesen. So kann Galactica nicht zwischen Wahrheit und Falschheit unterscheiden, was ein grundlegendes Problem für ein Sprachmodell ist, das wissenschaftliche Texte generieren soll. Das Modell hat auch tendenziell biased und inkorrekte Ergebnisse produziert, was zu Kritik von Wissenschaftlern und Forschern geführt hat.

Ein weiteres Problem ist die Lizenz des Modells, die noch unklar ist. Im Repository sind zwei augenscheinlich widersprüchliche Lizenzangaben hinterlegt, was zu Verwirrung geführt hat.

Fazit

Galactica ist ein Forschungstool mit großem Potenzial, aber auch mit gravierenden Schwächen. Die Kritik an dem Modell hat gezeigt, dass es noch viel Arbeit benötigt, um ein zuverlässiges und vertrauenswürdiges Tool zu entwickeln. Es ist wichtig, dass die Entwickler von Galactica auf die Kritik hören und das Modell weiterentwickeln, um sicherzustellen, dass es den Anforderungen der wissenschaftlichen Gemeinschaft gerecht wird.