Meta hat kürzlich einen neuen AI-Forschungsprojekt namens BlenderBot 3 vorgestellt, einen Chatbot, der fast jeden Thema diskutieren kann, indem er im Internet recherchiert. Der Chatbot soll seine Konversationsfähigkeiten und Sicherheit durch Rückmeldung von Benutzern verbessern, indem er hilfreiche Rückmeldungen bevorzugt und unhelpful oder gefährliche Antworten ignoriert.
Die BlenderBot-Serie hat Fortschritte bei der Kombination von Konversationsfähigkeiten wie Persönlichkeit, Empathie und Wissen erzielt, indem sie Langzeitgedächtnis und Internetrecherchen kombiniert. BlenderBot 3 baut auf diesen Fähigkeiten auf und bietet eine überlegene Leistung, da es auf Meta AI's öffentlich verfügbarem OPT-175B-Sprachmodell basiert, das etwa 58 Mal größer ist als BlenderBot 2.
Da alle konversationalen AI-Chatbots bekannt dafür sind, manchmal unsichere, biased oder beleidigende Äußerungen zu machen, hat Meta groß angelegte Studien durchgeführt, Workshops organisiert und neue Techniken entwickelt, um Sicherheitsvorkehrungen für BlenderBot 3 zu schaffen. Trotz dieser Arbeit kann BlenderBot 3 noch unhöfliche oder beleidigende Kommentare machen, weshalb Rückmeldungen gesammelt werden, um zukünftige Chatbots zu verbessern.
Um die Fähigkeit von BlenderBot 3 zu verbessern, Menschen zu interagieren, wurde es mit einer großen Menge öffentlich verfügbarer Sprachdaten trainiert. Viele der Datensätze wurden von Meta selbst gesammelt, einschließlich eines neuen Datensatzes mit über 20.000 Konversationen mit Menschen zu mehr als 1.000 Themen. Wenn die Antwort des Chatbots unbefriedigend ist, wird Rückmeldung gesammelt, um das Modell zu verbessern.
Im Vergleich zu seinen Vorgängern hat BlenderBot 3 um 31% bei Konversationen verbessert. Es ist auch doppelt so wissensreich und macht 47% weniger faktische Fehler. Nur 0,16% der Antworten von BlenderBot 3 auf Menschen wurden als unhöflich oder unangemessen markiert.
Das Ziel der Forschung ist es, Rückmeldungsdaten zu sammeln und freizugeben, die von der AI-Forschungsgemeinde genutzt werden können, um sicherere und nützlichere Chatbots zu entwickeln.
* KI-Zusammenfassungen können Fehler enthalten. Alle Angaben ohne Gewähr.