Vellum

Vellum ist eine Plattform, die Unternehmen dabei hilft, ihre LLM-Anwendungen (Large Language Models) von der Prototyp-Phase bis zur Produktion zu bringen. Die Plattform bietet eine Vielzahl von Tools und Funktionen, um die Entwicklung, den Einsatz und die Verbesserung von LLM-Anwendungen zu erleichtern.

Funktionen und Tools

Prompt Engineering

Vellum bietet eine umfassende Prompt-Engineering-Plattform, die es ermöglicht, Prompts und Modelle zu vergleichen, zu evaluieren und zu verbessern. Die Plattform bietet eine Bibliothek von Testfällen, um Prompts gegenüberzustellen, und ermöglicht die quantitative Evaluierung der Ausgaben von Prompts mithilfe von Industriestandards wie Bleu, Meteor, Levenshtein-Distanz und semantischer Ähnlichkeit.

Deployments

Vellum ermöglicht die sichere und zuverlässige Bereitstellung von LLM-Anwendungen in der Produktion. Die Plattform bietet eine einfache API-Schnittstelle, die Anfragen an beliebige Model-Anbieter weiterleitet, sowie Back-Testing und Versionskontrolle. Darüber hinaus bietet Vellum eine umfassende Überwachung aller Eingaben und Ausgaben, einschließlich einer Benutzeroberfläche und einer API, um explizite oder implizite Benutzerfeedback zu senden.

Dokumente

Vellum ermöglicht die Verwendung von proprietären Daten in LLM-Anwendungen. Die Plattform bietet eine robuste API-Endpunkt, um Dokumente ("Corpus of Text") für die Abfrage gegenüber bereitzustellen, sowie konfigurierbare Chunking- und semantische Suchstrategien.

Continuous Improvement

Vellum ermöglicht die kontinuierliche Verbesserung von LLM-Anwendungen durch die passive Akkumulation von Trainingsdaten, um eigene proprietäre Modelle zu feinjustieren. Darüber hinaus kann die Plattform Model-Anbieter oder -parameter unter der Haube ändern, ohne dass Code-Änderungen erforderlich sind.

Unternehmen und Geschichte

Vellum wurde 2023 von einem Team von MIT-Ingenieuren und McKinsey-Beratern gegründet, die bereits seit drei Jahren Erfahrungen mit der Entwicklung von Anwendungen auf Basis von GPT-3 haben. Das Unternehmen hat bereits mehrere Millionen Dollar an Investitionen erhalten und hat sich zum Ziel gesetzt, Unternehmen dabei zu helfen, ihre AI-Anwendungen von der Prototyp-Phase bis zur Produktion zu bringen.

Kunden und Erfolgsgeschichten

Vellum hat bereits mit Hunderten von Unternehmen, von Start-ups bis hin zu Fortune-500-Unternehmen, zusammengearbeitet, um ihre AI-Anwendungen zu entwickeln und zu verbessern. Einige Beispiele für erfolgreiche Kunden sind Drata, Redfin und Lavender, die alle Vellum genutzt haben, um ihre AI-Anwendungen zu entwickeln und zu verbessern.

Insgesamt bietet Vellum eine umfassende Plattform für die Entwicklung, den Einsatz und die Verbesserung von LLM-Anwendungen. Die Plattform bietet eine Vielzahl von Tools und Funktionen, um die Entwicklung von LLM-Anwendungen zu erleichtern und zu beschleunigen.