Vapi Voice AI im Test: Das Wichtigste auf einen Blick

KI-Gespräche sind heutzutage überall. Die Technologie hat viel Potenzial, ist aber nicht perfekt. Voicebots können verzögern, Probleme mit Unterbrechungen haben oder sogar mitten im Gespräch komplett vom Thema abkommen.

Vapi (auch bekannt als Vapi AI) will das ändern. Damit bekommst du mehr Kontrolle darüber, wie Sprachassistenten funktionieren, um einige der größten Schwachstellen auszugleichen. Du musst dafür nicht mal Entwickler sein. Die intuitiven Funktionen machen es leicht, Sprachassistenten zu erstellen und zu verwalten, auch ohne viel technisches Know-how.

Aus meiner Erfahrung verbessert Vapi Gespräche in vielerlei Hinsicht. Es gibt aber auch ein paar eigene Herausforderungen. In diesem Vapi-Testbericht zeige ich dir Schritt für Schritt meine praktischen Erfahrungen – vom Setup über die wichtigsten Funktionen bis zur Gesamtleistung. So kannst du entscheiden, ob Vapi zu dir passt.

Was ist Vapi?

Vapi ist eine entwicklerorientierte Voice-AI-Plattform, mit der du ganz einfach fortschrittliche Sprachassistenten erstellen, testen und bereitstellen kannst. Sie bietet eine umfassende Suite an Tools – darunter eine leistungsstarke Voice-API (daher kommt auch der Name Vapi), ein intuitives Dashboard und jede Menge Anpassungsmöglichkeiten. Mit Vapi kannst du blitzschnell Sprach-Apps starten, die den natürlichen Gesprächsfluss zwischen Menschen simulieren.

Obwohl Vapi in erster Linie als Programmier-Tool vermarktet wird, gibt es auch eine umfangreiche No-Code-Oberfläche (UI). So können Marketer und andere Nicht-Techniker voll funktionsfähige KI-Sprachassistenten bauen, ohne dass sie die Entwickler im Team einbinden müssen.

Zu den Funktionen, die Vapi im Bereich Voicebots besonders machen, gehören:

• Schnellere Reaktionszeiten: Dank Latenz-Optimierungen wie verbesserter Verarbeitung, smarter Datenspeicherung (Caching) und flüssigem Audio-Streaming können Vapis Assistenten schneller reagieren als viele andere Voicebots auf dem Markt.

• Natürlicher Gesprächsfluss: Deine Assistenten können jetzt pausieren, wenn du sie unterbrichst, sind aber gleichzeitig höflich genug, dich nicht zu unterbrechen, wenn du sprichst. Das ist ein riesiger Fortschritt gegenüber Konkurrenten wie Synthflow.

• Unübertroffene Skalierbarkeit: Vapi kann mehr als 1 Million gleichzeitige Anrufe verarbeiten. Damit ist die Plattform für Unternehmen jeder Größe geeignet.

• Unterstützung für über 100 Sprachen: Mit Vapi kannst du Sprachagenten erstellen, die die Sprache deiner Nutzer sprechen – zum Beispiel Englisch, Spanisch, Französisch, Deutsch, Hindi, Portugiesisch und viele mehr.

• Erweiterte Funktionen für Entwickler: Du kannst deinen Sprachassistenten mit eigenen Tools ausstatten, die Aufgaben wie Terminbuchungen, Informationsabfragen oder das Ausfüllen von Formularen übernehmen.

• Native Integration mit Make: Du kannst deine Make-Szenarien verbinden und sie während Vapi-Sprachgesprächen auslösen.

Lies hierzu: n8n vs. Make: Der ultimative Vergleich

Wie funktioniert Vapi?

Bevor wir unseren ersten Sprachassistenten in Vapi erstellen, schauen wir uns an, wie die Plattform funktioniert und was im Hintergrund passiert.

Das Alleinstellungsmerkmal von Vapi ist die Art und Weise, wie drei verschiedene KI-Modelle miteinander verbunden und orchestriert werden, um effiziente, menschenähnliche Gespräche zu ermöglichen:

1. Zuhören – Transcriber-Modul oder Speech to Text (STT). Wenn du mit deinem Gerät sprichst, wird das Audio aufgenommen und vom Modell transkribiert.

2. Intelligenz – KI-Modell oder Large Language Model (LLM). Der transkribierte Text wird dann in ein Prompt eingespeist und durch ein LLM verarbeitet. Das LLM ist die Kernintelligenz, die eine echte Person simuliert.

3. Sprechen – Text zu Audio – Das LLM gibt Text (Prompt-Antworten) aus, der dann auf deinem Gerät wiedergegeben wird.

Dieses Setup ist nicht einzigartig für Vapi. Es ist eine gängige Infrastruktur für alle KI-Sprachplattformen. Zwei Dinge unterscheiden Vapi jedoch: die umfassende Unterstützung für KI-Modelle und die Orchestrierungsmodelle.

Unbegrenzte Unterstützung für KI-Modelle

Im Gegensatz zu anderen Plattformen, die nur eine Handvoll Modelle unterstützen, kannst du in Vapi KI-Modelle und Tools wie ChatGPT, Claude, ElevenLabs und viele mehr frei wechseln und kombinieren. Vapi unterstützt alles, was es gibt, einschließlich der Möglichkeit, eigene Modelle einzubringen. So kannst du genau das nutzen, was am besten zu deinen Anforderungen oder Projekten passt.

Das Beste daran ist, dass du keine externen Konten verbinden oder betreiben musst, da Vapi die meisten Modelle nativ unterstützt. Möchtest du zum Beispiel von OpenAI (dem Standard-LLM-Modell) zu Claude wechseln, kannst du deine Claude-API-Schlüssel verbinden, musst es aber nicht. Wenn du das Modell in der Vapi-Oberfläche änderst, wechselt die Plattform intern zu Claude.

Orchestrierungsmodelle

Orchestrierungsmodelle sind KI-Erweiterungen, die auf die Kernfunktionalität aufsetzen und Gespräche lebendiger und spannender machen. Die Vapi-Plattform ist einzigartig darin, Standard-KI-Modelle mit diesen Add-ons zu verbessern und zu optimieren.

Die Modelle sind:

• Endpointing: Endpointing bedeutet, dass erkannt wird, wann du aufgehört hast zu sprechen. Statt eines Timeouts (dem Standardverfahren) nutzt Vapi ein eigenes Audio-Text-Fusionsmodell, um zu erkennen, wann du nicht mehr sprichst. So wird die Latenz verringert und Gespräche wirken natürlicher.

• Unterbrechungen: Die Fähigkeit zu erkennen, wenn du ins Gespräch eingreifen willst, sodass der Assistent pausiert und zuhört. Viele KI-Sprachassistenten haben diese Funktion nicht, was das Gespräch oft unnatürlich wirken lässt.

• Hintergrundgeräusch- und Sprachfilterung: Vapi verbessert die Gesprächsqualität, indem Hintergrundgeräusche herausgefiltert und der Fokus auf die Stimme des Sprechers gelegt wird. So wird eine genaue Transkription und ein flüssigeres Gespräch auch in lauter Umgebung ermöglicht.

• Backchanneling: Eine ausgefeiltere Methode, bei der der Assistent erkennt, ob Füllwörter oder Rückmeldungen wie „Ah“, „Ja“, „Oh-oh“ usw. eine Aktion auslösen sollen oder einfach nur Füllwörter sind. Du kannst sogar einen Prompt schreiben, damit dein Bot solche Füllwörter verwendet, um natürlicher zu klingen.

• Emotionserkennung: Vapi kann anhand des Tonfalls erkennen, ob zum Beispiel Freude, Frustration oder Dringlichkeit vorliegt. So kann der Assistent empathischer und situationsgerechter reagieren.

Der Hauptzweck dieser Modelle ist neben der Tatsache, dass deine Assistenten glaubwürdiger wirken, die Verbesserung der Latenz beim Voice-to-Voice. „Voice-to-Voice“ bezeichnet die Zeit zwischen dem Ende deiner Spracheingabe und dem Moment, in dem das erste gesprochene Stück der KI auf deinem Gerät abgespielt wird. Vapis Ziel ist es, dass der Voice-to-Voice-Prozess bei 500-700 ms oder weniger liegt.

Ich habe die Antwortzeiten meiner Assistenten nicht gemessen, aber der Unterschied zu anderen Apps wie Synthflow ist deutlich. Die Assistenten von Vapi haben spürbar schneller reagiert und fühlten sich insgesamt flotter an als ähnliche Lösungen. Allerdings gibt es einen Haken, auf den wir im Abschnitt zur Assistenten-Testung noch eingehen.

Damit das geklärt ist, lass uns unseren ersten Vapi-Assistenten erstellen und schauen, wie er abschneidet.

Einstieg in Vapi

Das Kernprodukt von Vapi sind die Assistenten. Das sind automatisierte Sprachassistenten (oder Bots), die Anrufe tätigen oder entgegennehmen können. Für diesen Test konzentrieren wir uns auf die Benutzeroberfläche und nutzen keine Software Development Kits (SDKs).

1. Deinen ersten Vapi KI-Assistenten erstellen

Bei Vapi zahlst du nur für die Minuten, die du nutzt. Ähnlich wie bei Synthflow kannst du also beliebig viele Assistenten erstellen. Wenn du den KI-Assistenten aber über das Telefon nutzen möchtest, musst du für jeden Assistenten eine eigene Telefonnummer kaufen.

Im ersten Schritt wählst du aus, ob du einen Assistenten von Grund auf neu erstellen oder eine der vorhandenen Vorlagen nutzen willst. Es gibt nur vier Vorlagen zur Auswahl:

• Terminvereinbarung: Ein eingehender Assistent für Zahnarztpraxen, der Termine koordiniert, Fragen beantwortet und Serviceinfos gibt.
• Kundensupport: Eine ausgewogene Vorlage, die Empathie und technisches Know-how für effizienten Support kombiniert.
• Eingehende Q/A: Entwickelt für eine Agentur für Inneneinrichtung, um detaillierten Produktsupport und Problemlösungen zu bieten.
• Spiel-NPC (Nicht-Spieler-Charakter): Ein In-Game-Assistent, Elenya, der dir Hinweise, Hintergrundwissen und Einblicke in die Spielwelt gibt.

Wenn du neu beim Chat-Prompting bist, kann es ganz schön herausfordernd sein, deinen ersten Voice Assistant in Vapi zu erstellen. Noch schwieriger wird es dadurch, dass alle Vorlagen für eingehende Assistenten gedacht sind. Es gibt also nichts, woran du dich orientieren kannst, wenn du einen Assistenten für ausgehende (Cold Outreach) Anrufe bauen möchtest.

2. Deinen Assistenten konfigurieren

Ich habe mit Mary, der Terminvereinbarungs-Assistentin, angefangen. Der Einrichtungsbildschirm ist grob in drei Hauptbereiche von oben nach unten unterteilt: eine Übersicht zu Kosten und Latenz, Tabs zum Wechseln zwischen den wichtigsten Einstellungen des Assistenten (Modell, Transcriber, Stimme usw.) und den eigentlichen Bereich mit Formularen, in denen du Prompts eingibst, Anbieter wechselst usw.

Kosten- und Latenzübersicht

Vapi legt großen Wert darauf, schnelle und reaktionsfähige Assistenten anzubieten und gleichzeitig klare, transparente Preise zu gewährleisten. Das zeigt sich direkt im ersten Schritt der Assistenten-Einrichtung – hier bekommst du eine Übersicht über Kosten und Latenz, die sich dynamisch anpassen, wenn du mit verschiedenen Modellen experimentierst. Denk daran, dass es sich nur um Schätzungen handelt.

Die Modelle, die du für deinen Assistenten auswählst, können einen großen Unterschied bei den Kosten und der Latenz machen. Im ersten Beispiel unten habe ich das Echtzeit-Vorschau-Modell GPT-4o von OpenAI ausgewählt. Das führte zu Kosten von 0,22 $ pro Minute bei einer Latenz von 700 ms – das ist das von Vapi empfohlene Niveau.

Wenn ich allerdings auf das o1-Vorschau-Modell gewechselt habe, ist die Latenz drastisch auf 8000 ms (8 Sekunden) gestiegen. Das macht das Gespräch viel zu langsam für einen natürlichen Austausch. Neben den Modellen kann auch der „Modus“ – also ob du den Assistenten im Web oder am Telefon (Twilio oder Vonage) nutzt – die Latenz und die Kosten beeinflussen. Es ist wichtig, diese Faktoren im Blick zu behalten, um beim Design deiner Assistenten das beste Gleichgewicht zwischen Preis und Leistung zu finden.

Modell, Transkription, Stimme und weitere Optionen

Als Nächstes wählst du aus, welchen Aspekt deines Assistenten du konfigurieren möchtest. Die ersten drei Optionen – Modell, Transkription und Stimme – sind essenziell für die Einrichtung deines Assistenten. Die übrigen drei – Funktionen, Erweitert und Analyse – bieten zusätzliche Möglichkeiten, die du für deinen ersten Assistenten vielleicht noch nicht brauchst.

Ich verabschiede mich von unserer Assistentin Mary und starte von vorn, um Jade zu bauen – meinen eigenen Inbound-Assistenten, der Bestellungen für unser chinesisches Restaurant, The Golden Wok, entgegennimmt.

Die Schritte, die wir gehen müssen:

1. Assistent erstellen: Wir bauen einen Assistenten und geben ihm Anweisungen, wie er Anrufe für unser Restaurant bearbeiten soll.

2. Telefonnummer besorgen: Wir können entweder eine vorhandene Nummer nutzen oder direkt über Vapi eine kaufen.

3. Assistent verknüpfen: Wir ordnen dem Assistenten die Telefonnummer zu, damit er Anrufe entgegennehmen kann.

4. Anrufen und Assistent testen: Zum Schluss rufen wir die Nummer an und testen unseren Assistenten im Gespräch.

3. Auswahl des Modells für deinen Assistenten (LLM)

Im ersten Kapitel unseres Reviews haben wir über die drei Kernmodule der Infrastruktur gesprochen: Listen, Intelligence und Speak. Das sind die wichtigsten Komponenten, die du in den ersten drei Tabs deines Assistenten konfigurierst:

• Modell (Intelligence) – Das KI-Modell (LLM), das Antworten verarbeitet und generiert.

• Transcriber (Listen) – Wandelt gesprochene Sprache in Text um.

• Voice (Speak) – Wandelt Textantworten in natürlich klingende Sprache um.

Wir starten mit dem ersten Punkt, dem Modell, bei dem du das LLM auswählst und deinen Prompt schreibst.

Das Standardmodell ist OpenAI’s GPT 3.5 turbo. Das ist ein super Einstieg, weil es eine schnelle Reaktionszeit und ein ziemlich gutes Interaktionserlebnis bietet. Du kannst aber auch direkt aus über 35 Modellen von 16 verschiedenen Anbietern wählen.

Diese riesige Auswahl ist genial für alle, die maximale Anpassung und Flexibilität suchen. Sie kann aber auch einschüchternd sein und zu Entscheidungsblockaden führen, wenn du dich mit KI-Modellen nicht auskennst.

In dieser Hinsicht ist die Plattform eher für Entwickler als für Einsteiger geeignet. Ich hätte mir gewünscht, dass Vapi empfohlene Modelle hervorhebt oder sogar einen Assistenten anbietet, der dir im Tool das beste Modell für deine Anforderungen vorschlägt. Immerhin zeigt Vapi das schnellste und günstigste Modell jedes Anbieters an. Zum Zeitpunkt dieses Reviews ist das für OpenAI das GPT 4o Mini Cluster.

*OpenAI o1-Modelle sind noch in der Beta-Phase und werden für den produktiven Einsatz nicht empfohlen. System-Prompts und Tool-Calls werden von o1-Modellen aktuell nicht unterstützt. Außerdem ist die Latenz deutlich höher als bei traditionellen Modellen.

Erweiterte Optionen zur Konfiguration deines KI-Assistenten

Vapi bietet so viele Anpassungsmöglichkeiten. Lass uns also etwas tiefer einsteigen und einige der fortgeschritteneren Konfigurationsoptionen und ihre Funktionsweise anschauen.

Wissensdatenbank

Die Modellkonfiguration ermöglicht es dir, eigene Dokumente mit Informationen zu bestimmten Themen einzubinden, damit die Antworten der Assistenz noch genauer und hilfreicher werden. Zum Beispiel kannst du unsere chinesische Speisekarte, Öffnungszeiten und andere relevante Infos importieren.

Temperatur

Mit der Temperatur steuerst du, wie kreativ und zufällig die Antworten der Assistenz ausfallen. Je höher du den Wert einstellst, desto unvorhersehbarer werden die Ergebnisse. Ein niedriger Wert (nahe 0) sorgt für berechenbarere und stabilere Antworten.

Beim Testen dieser Einstellung habe ich anfangs erwartet, dass ein Wert von null die Assistenz strikt beim Thema hält, sodass sie nicht abschweift. Das war aber nicht ganz so. Wenn ich Jade gebeten habe, einen Witz zu erzählen, hat sie zwar immer freundlich und humorvoll reagiert, aber der Inhalt der Witze hing von der Temperatur ab.

• Bei einem Wert von null waren die Witze sehr thematisch und passten perfekt zum Restaurant. Zum Beispiel: „Warum ist die Teigtasche zur Schule gegangen? Weil sie ein Wantan werden wollte!“
• Mit einem Wert von 1,5 wurden die Witze allgemeiner und bezogen sich auf Köche und Essen im Allgemeinen, nicht mehr nur auf chinesische Küche.

Als ich den Wert auf 2 (das Maximum) gestellt habe, ist die Assistenz komplett durcheinander geraten und hat nur noch wirres Zeug geantwortet.

Zum Glück konnte ich Jade mit ein paar gezielten Hinweisen wieder auf Kurs bringen. Das zeigt, wie wichtig es ist, die Assistenz gründlich zu testen!

Maximale Token

Das ist die maximale Anzahl an API-Token, die die Assistenz pro Antwort generieren darf. Das wirkt sich direkt auf die API-Kosten aus. Mit einem Limit bleiben die Antworten kompakt und die Kosten im Griff. Am besten setzt du diesen Wert auf 250 oder weniger, um die Ausgaben zu kontrollieren.

Emotionserkennung

Mit dieser Funktion kann die Assistenz erkennen, wie sich Nutzer fühlen – zum Beispiel Ärger, Freude oder Frust – und diese als zusätzlichen Kontext nutzen. In meinen Tests habe ich allerdings keinen großen Unterschied gemerkt, ob die Einstellung an oder aus war. Viel entscheidender war, welches KI-Modell ich verwendet habe. Fortgeschrittene Modelle wie GPT-4o haben zum Beispiel auf meine Beschwerden über Hunger viel einfühlsamer reagiert, während GPT-3.5 deutlich weniger aufmerksam gewirkt hat.

4. So schreibst du deinen KI-Prompt

Der Prompt deiner Assistenz ist sozusagen der Leitfaden, der festlegt, an welche Regeln und Vorgaben sie sich im Gespräch hält. Wenn du schon mal mit ChatGPT gearbeitet hast, kennst du das Prinzip. Den Prompt für deine Vapi Assistenz legst du im „Modell“-Tab fest.

Eine kleine, aber wichtige Sache, die ich an Vapi schätze, ist das Feld, in das du die „Erste Nachricht“ eingeben kannst. Das ist besonders bei ausgehenden Anrufen entscheidend und war etwas, womit ich bei den Synthflow Bots zu kämpfen hatte.

„Hallo, hier ist Jade von The Golden Wok. Kann ich deine Bestellung aufnehmen?“

Folgendes solltest du in deinem Prompt angeben:

• Grundlagen und Einführung des Assistenten
• Informationen zum Unternehmen
• Kundeninformationen (falls relevant)
• Rolle und Hauptziele des Assistenten
• Gesprächsanweisungen und Skript
• Stimme und Tonfall
• Zusätzliche Anweisungen und Einschränkungen

Schauen wir uns jeden Punkt in meinen Prompts genauer an:

Einführung und Unternehmensinformationen

„Du bist ein Sprachassistent für The Golden Wok, ein chinesisches Restaurant in der 456 Dragon Street, San Francisco, Kalifornien. Das Restaurant ist montags bis samstags von 11 bis 22 Uhr geöffnet und sonntags geschlossen. The Golden Wok bietet der lokalen Community eine Vielzahl köstlicher chinesischer Gerichte an, darunter beliebte Speisen wie Dumplings, gebratener Reis, Kung Pao Chicken und Chow Mein.“

Ziel und Hauptanweisungen

Der Hauptzweck des Assistenten:

„Deine Hauptaufgabe ist es, Bestellungen entgegenzunehmen, grundlegende Fragen zur Speisekarte zu beantworten und Informationen zu den Öffnungszeiten und Services des Restaurants zu geben. Wenn ein Anrufer eine Bestellung aufgeben möchte, ist es dein Ziel, alle nötigen Details freundlich, effizient und engagiert zu erfassen.“

Gefolgt vom Telefonskript:

„So solltest du vorgehen:

1. Bestellung aufnehmen: Frag nach der gewünschten Bestellung und bestätige spezielle Wünsche (z.B. Schärfegrad, Extras, etc.).
2. Liefer- oder Abholdetails erfassen: Frag, ob geliefert oder abgeholt werden soll, und falls Lieferung, notiere die Adresse.
3. Kontaktdaten bestätigen: Frag höflich nach Name und Telefonnummer, um die Bestellung korrekt zuzuordnen.
4. Überprüfen und bestätigen: Lies die Bestellung sowie Liefer- oder Abholdetails vor und gib die voraussichtliche Wartezeit an.“

Tonfall und Stil

Mach deinen Assistenten markengerecht mit diesen Stilvorgaben:

• „Sei locker, witzig und ein bisschen charmant – eher wie im netten Diner, nicht wie im formellen Callcenter.
• Halte die Antworten kurz und im Gesprächsstil, nutze Phrasen wie ‚Umm…‘, ‚Alles klar!‘, ‚Klingt lecker!‘ oder ‚Okay, los geht’s!‘
• Rede nicht zu viel – es soll wie ein natürliches Gespräch wirken, kein Monolog.
• Wenn nach Gerichten gefragt wird, hebe beliebte Speisen oder Specials begeistert hervor, z.B. ‚Oh, das Kung Pao Chicken ist ein echter Renner!‘
• Wenn jemand unsicher ist, was er bestellen soll, schlag beliebte Kombinationen vor oder frage nach den Vorlieben.
• Wenn du etwas nicht weißt, bleib locker – ‚Hmm, gute Frage! Ich schau das mal eben nach.‘“

Zusätzliche Hinweise

• „Wenn nach Allergenen gefragt wird, informiere, dass die Gerichte Soja, Gluten und Nüsse enthalten können und man sich für Details beim Restaurant erkundigen sollte.
• Wenn etwas bestellt wird, das nicht auf der Karte steht, leite freundlich zu ähnlichen verfügbaren Optionen weiter.
• Beende jeden Anruf mit einer fröhlichen Verabschiedung – ‚Danke für deinen Anruf bei The Golden Wok! Deine Bestellung ist bald fertig. Guten Appetit!‘
• Mit deiner freundlichen und engagierten Art machst du das Bestellen bei The Golden Wok zu einem spaßigen und unkomplizierten Erlebnis!“

Zusätzlich habe ich folgende Einschränkung ergänzt:

„Bleib unbedingt beim Thema und vermeide jegliche Abschweifungen.“

Diese kleine Anpassung hat einen großen Unterschied gemacht, weil mein Assistent dadurch fokussiert bleibt und nicht vom Thema abweicht.

Zum Beispiel, als ich Jade gebeten habe, mir einen Witz zu erzählen, hat sie das Gespräch höflich wieder auf das eigentliche Ziel gelenkt: die Bestellung von leckerem chinesischem Essen. Das hat mich richtig gefreut, vor allem, weil ich mit den Assistenten, die ich mit Synthflow AI gebaut habe, nie so viel Fokus hinbekommen habe. Ich empfehle unbedingt, eine ähnliche Einschränkung in deinen Prompt aufzunehmen, um ineffiziente Anrufe und unnötige Kosten zu vermeiden.

Ich weiß – ein Prompt, um einen Prompt zu erstellen, inspiriert von einem anderen Prompt. So meta!

5. Den Transcriber einrichten

In Vapi ist das Transkriptionsmodul dafür zuständig, gesprochene Sprache in Text umzuwandeln. So kann der Sprachassistent Benutzereingaben effektiv verarbeiten und verstehen sowie deine Anrufe transkribieren.

Die bereitgestellten Modelle unterstützen Transkription in mehr als 100 verschiedenen Sprachen.

6. Gib deinem Assistenten eine Stimme

Das Voice-Modul ist die dritte wichtige Komponente der Vapi-Infrastruktur und dafür verantwortlich, die textbasierten Antworten des KI-Assistenten (die vom LLM kommen) in gesprochene Audios umzuwandeln. Es funktioniert als Text-zu-Sprache-Engine (TTS) und ermöglicht es dem Assistenten, natürlich per Stimme mit Nutzern zu kommunizieren.

Vapi bietet eine große Auswahl an Stimmen mit unterschiedlichen Akzenten und Tonlagen, damit Gespräche natürlicher wirken. Es arbeitet mit führenden TTS-Anbietern wie ElevenLabs und Deepgram zusammen, sodass du viele Möglichkeiten hast, die passende Stimme für deine Marke zu finden.

Latenz und Preise unterscheiden sich je nach Modell, deshalb lohnt es sich, verschiedene auszuprobieren, um das beste Verhältnis aus Kosten und Qualität zu finden. Möchtest du die Stimmen hören? Du kannst eine direkt auf Vapis Homepage ausprobieren.

Ich war wirklich beeindruckt von der Vielfalt der verfügbaren Stimmen. Egal, ob du einen entspannten New Yorker oder eine aristokratische Prinzessin brauchst, es gibt für jeden Bedarf die passende Stimme. Vapi bietet außerdem einen großartigen Bereich für die Voice Library, den du in einem separaten Tab öffnen kannst, um die Stimmen anzuhören und sogar gezielt nach Geschlecht und Akzent zu suchen.

Eine Sache, die nicht sofort klar ist, ist, ob eine Stimme dieselbe Sprache wie das Prompt und der Transcriber unterstützt. Ich habe ausprobiert, mein Prompt auf ein paar verschiedene Sprachen umzustellen, und die von mir getesteten Stimmen haben das gut gemeistert. Trotzdem gibt es nur einen wirklich zuverlässigen Weg, die Kompatibilität zu bestätigen: Ausprobieren.

7. Funktionen

„Funktionen“ oder „Tools“ (Vapi scheint beide Begriffe gleichbedeutend zu verwenden) ermöglichen es deinen Assistenten, während des Gesprächs individuelle Aktionen und Aufgaben auszuführen. Du kannst diese Tools aus der Tools-Bibliothek hinzufügen (eine separate Seite auf der Plattform).

Es gibt ein paar Arten von Tools:

Vorgefertigte Tools

Aktuell gibt es drei:

• End Call Function aktivieren: Damit kann der Assistent das Gespräch selbstständig beenden. (Am besten für GPT-4 und größere Modelle geeignet.)
• Wähltasten verwenden: Der Assistent kann Ziffern auf dem Tastenfeld eingeben.
• Weiterleitungsnummer: Diese Nummer wird genutzt, um Anrufe vom Assistenten weiterzuleiten. (Nur für Telefonanrufe, nicht für Webanrufe.) Die Weiterleitungsnummer kann jede beliebige Nummer sein – sie muss keine Vapi-registrierte Nummer sein. Es wird außerdem empfohlen, einen Satz wie diesen in deinen Prompt aufzunehmen: Wenn nötig, leite alle Anrufe an [deine Telefonnummer] weiter.

Eigene Tools

Das ist ein Feature für Entwickler, mit dem du eigene Aktionen über eine API erstellen kannst. Du kannst zum Beispiel während des Gesprächs Nutzerinformationen sammeln und an einen Server senden.

Integrationen

Du kannst deine Make- oder GoHighLevel-Konten über eine Webhook-URL verbinden.

Beachte, dass die Integrationen aktuell auf Webhooks basieren und noch nicht vollständig nativ sind. Das ist zwar kein Nachteil, aber es ist gut zu wissen, dass die Einrichtung etwas mehr technisches Know-how erfordert.

8. Erweiterte Einstellungen

Wie der Name schon sagt, kannst du in diesem Tab verschiedene erweiterte Konfigurationen wie Datenschutzeinstellungen, Feinabstimmung der Konversation und Nachrichten, die der Assistent senden kann, festlegen.

Insgesamt war ich positiv überrascht von der Vielfalt der verfügbaren Funktionen. Es ist klar, dass Vapi wirklich mit starken Anpassungsmöglichkeiten für deinen Assistenten punktet, besonders im Vergleich zu anderen Alternativen.

Datenschutz

In diesem Bereich kannst du die Aufzeichnung von Anrufen und Videos deaktivieren. Das ist besonders wichtig für Kunden aus der EU.

Start- und Stopp-Sprech-Anweisungen

Mit diesen Panels kannst du die Wartezeiten und Unterbrechungen deines Assistenten während der Interaktionen feinjustieren.

Nach meinen Tests hat die Funktion „Smart Endpointing“ den natürlichen Gesprächsfluss verbessert. Sie hat die unangenehmen Unterbrechungen durch den Assistenten reduziert, deshalb empfehle ich dir, sie aktiviert zu lassen. Natürlich solltest du deinen Voicebot unbedingt testen, bevor du live gehst. Im letzten Abschnitt findest du dazu mehr Details.

Einstellungen für Anruf-Timeout

Hier kannst du festlegen, wann der Assistent einen Anruf beenden soll – entweder wenn der Kunde schweigt oder die maximale Anrufdauer erreicht ist. Das ist wichtig, um die Kosten im Griff zu behalten.

Nachrichten

Zuletzt gibt es Einstellungen für Nachrichten, die dein Assistent senden kann, darunter Voicemail, Gesprächsende-Nachrichten und Inaktivitätsnachrichten (zum Beispiel „Bist du noch da?“). Du hast außerdem Einstellungen, um Nachrichten programmatisch an deinen Server zu senden (nur für Entwickler).

9. Analyse

Der letzte Abschnitt des Assistenten-Konfigurators ermöglicht dir, Eingabeaufforderungen und Einstellungen für die Analyse des Anrufs festzulegen. Dazu gehören die Zusammenfassungs-Prompt, Erfolgskriterien und die strukturierte Datenerfassung.

Die Erfolgsauswertung und strukturierte Datenerfassung sind besonders wichtig für Verkaufsgespräche und die Qualifizierung von Leads. Zusammen können sie genutzt werden, um Leads zu bewerten.

Ein Beispiel für einen Success Evaluation System-Prompt könnte so aussehen:

"Bewerte das Verhalten des Kunden während des Gesprächs anhand von:

1. Engagement: Hat der Kunde aktiv teilgenommen und Interesse gezeigt?

2. Klarheit: Hat der Kunde seine Bedürfnisse oder Ziele klar kommuniziert?

3. Aufgeschlossenheit: War der Kunde offen für Vorschläge und Lösungen?

4. Umgang mit Einwänden: War der Kunde kooperativ, wenn es um die Klärung von Bedenken ging?

5. Entscheidungsfindung: Hat der Kunde Bereitschaft gezeigt, die gewünschte Handlung durchzuführen?

6. Gib eine kurze Einschätzung zu Stärken, Schwächen und Vorschlägen zur Verbesserung der Kundenbindung, falls nötig."

Du kannst sogar den Bewertungsrahmen für den Prompt festlegen – das Framework, das die Bewertungskriterien definiert:

10. Auswahl einer Telefonnummer

Telefonnummern sind in Vapi erforderlich, um Anrufe über das Telefon zu tätigen oder entgegenzunehmen.

Du kannst US-amerikanische und kanadische Telefonnummern direkt bei Vapi für 2 $ pro Monat und Nummer kaufen oder deine Nummern von Twilio oder Vonage importieren, indem du deine Twilio/Vonage String Identifier (SID) eingibst.

Die Funktion, Nummern direkt zu kaufen, ist im Moment noch ziemlich eingeschränkt. Du kannst nur US- und kanadische Nummern kaufen und musst den lokalen Vorwahlbereich manuell eingeben, um eine Nummer zu finden. Außerdem kannst du mit einer nativen Nummer keine ausgehenden Anrufe in andere Länder tätigen. Anders gesagt: Wenn du außerhalb dieser beiden Länder arbeitest oder internationale Nummern anrufen möchtest, musst du die Importfunktion nutzen. Das ist ziemlich einschränkend und ein deutlicher Nachteil im Vergleich zur Synthflow-Oberfläche für den Nummernkauf.

Wenn du die Nummer kaufst, hast du zwei Optionen:

• Einstellungen für eingehende Anrufe: Du kannst deine Nummer einem eingehenden Assistenten zuweisen. Wenn jemand diese Nummer anruft, nimmt dein KI-Assistent die Anrufe entgegen.
• Einstellungen für ausgehende Anrufe: Du kannst deinen Assistenten so einstellen, dass er eine bestimmte Nummer anruft. Leider bietet die Plattform keine Kampagnenfunktion für mehrere Anrufe gleichzeitig (wie es bei Synthflow der Fall ist), was ausgehende Anrufe über die Oberfläche eher unpraktisch macht. Du kannst diesen Prozess aber trotzdem über die API automatisieren.

11. Teste deinen Assistenten und veröffentliche ihn

Sobald du deinen Assistenten eingerichtet hast, kannst du endlich die letzten Tests durchführen und ihn live schalten. Vapi gibt dir 10 $ kostenlose Credits zum Testen. Du kannst deinen Verbrauch auf der Abrechnungsseite verfolgen.

Du kannst den Assistenten entweder über den Webbrowser anrufen oder die Telefonnummer nutzen, um eingehende oder ausgehende Anrufe per Telefon zu machen.

Mit meinem eigenen Prompt und GPT 4o Mini als zugrundeliegendem Modell hat Jade richtig gut funktioniert und ein zusammenhängendes, flüssiges Gespräch geführt. Die Begrüßungsnachricht hat perfekt funktioniert (damit hatte ich bei Synthflow Probleme), und die Einschränkungen bei themenfremden Gesprächen haben besser geklappt, als ich erwartet hatte.

Mir ist allerdings aufgefallen, dass der Assistent bei einer Latenz unter 750 ms unnatürlich wirkte. Wie man so schön sagt: „Zu viel des Guten kann auch schaden.“ Das gilt auch für die Geschwindigkeit deines Assistenten. Er hat zu schnell geantwortet, mich oft unterbrochen und ist mir ins Wort gefallen. Das kann besonders bei langsameren Zielgruppen, wie älteren Menschen oder Nicht-Muttersprachlern, problematisch sein. Für mich lag der Sweet Spot irgendwo zwischen 750 ms und 900 ms, was sich zum Glück mit den vielen Optionen und Modellen sehr einfach einstellen ließ.

Das Testen per Telefonnummer hat einwandfrei funktioniert, aber ich war enttäuscht, dass es keine Web-Embed-Option wie bei Synthflow gibt. Wenn du deinen Assistenten im Web ausrollen willst, geht das aktuell nur programmatisch.

Ein weiterer Nachteil beim Testen ist, dass es keine Chat-Textfunktion gibt. In Synthflow kannst du per Text mit deinen Assistenten interagieren und so einen echten Anruf simulieren, ohne Telefon- oder Webanrufe zu nutzen. Das hilft, Credits beim Testen zu sparen.

Erweiterte Funktionen von Vapi

Vapi bietet noch ein paar erweiterte Funktionen, auf die wir noch nicht eingegangen sind. Schauen wir sie uns an.

Multistep-Prozesse mit Blocks erstellen

Das Blocks-Feature in Vapi ist ein fortschrittlicher visueller Workflow-Builder, der leistungsstarke Anpassungs- und Automatisierungsmöglichkeiten für deine Voice-Assistenten bietet. Mit Blocks kannst du eine Reihe von Schritten entwerfen und verbinden, indem du Gesprächsschritte und externe Tools kombinierst, um ein nahtloses Kundenerlebnis zu schaffen. Das kann für mehrstufige Gespräche, Weiterleitungen, Fehlerbehandlung, visuelle Logik und programmatische Interaktionen mit deinem Server und deiner Datenbank genutzt werden.

Für unser chinesisches Restaurant könnte ein möglicher Workflow so aussehen:

1. Den Kunden begrüßen und nach seiner Bestellnummer fragen.
2. Einen API-Block verwenden, um in deiner Datenbank nach den Bestelldetails zu suchen.
3. Dem Kunden den Bestellstatus mitteilen.
4. Die Option anbieten, mit einem Ansprechpartner zu sprechen, falls weitere Hilfe benötigt wird.

Steuere ein eingespieltes Team von Assistenten mit Squads

Mit der Squads-Funktion von Vapi arbeitest du nahtlos mit mehreren Assistenten zusammen und baust so ein dynamisches, effizientes System für die Gesprächsabwicklung auf. Damit kannst du Anrufe zwischen Assistenten weiterleiten, wenn einer mal nicht verfügbar ist, und auch komplexe, mehrstufige Prozesse simulieren – zum Beispiel Lead-Recherche, Qualifizierung und Abschluss. Das Beste daran: Du kannst das gesamte Squad anrufen und das komplette Assistenten-Team testen.

Vapi Squads sind ideal, wenn verschiedene Assistenten für unterschiedliche Phasen eines Prozesses gebraucht werden. Zum Beispiel:

1. Lead-Recherche: Der erste Assistent sammelt wichtige Infos über einen potenziellen Kunden, wie dessen Unternehmen, Bedürfnisse und Kontaktdaten.
2. Lead-Qualifizierung: Ein zweiter Assistent prüft, ob der Lead passt, stellt gezielte Fragen und entscheidet, ob er zu deinem Produkt oder Service passt.
3. Lead-Daten erfassen: Ein Tool speichert die Daten des potenziellen Kunden auf deinem Server und im CRM.
4. Abschluss: Der dritte Assistent übernimmt die letzte Phase, geht auf Einwände ein, erklärt Preise oder wickelt sogar eine Bestellung über ein Tool ab.

Assistentenwissen mit Dateien erweitern

Eines der herausragenden Features von Vapi ist die Möglichkeit, Dateien als „Knowledge Base“ zu importieren. Das verbessert die Fähigkeit des Assistenten enorm, genaue und detaillierte Antworten zu liefern. Lade einfach relevante Dokumente direkt hoch und sie stehen sofort als Referenz zur Verfügung.

Für unser chinesisches Restaurant The Golden Wok habe ich eine Speisekarte von meiner Lieblingsseite eines lokalen Asia-Restaurants als Textdatei gespeichert. Dann habe ich sie in Vapi als Knowledge Base des Assistenten importiert. Der Vorgang war schnell und unkompliziert:

Zuerst habe ich die Menü-Datei im Bereich Dateien hochgeladen:

Dann habe ich es in den Einstellungen des Assistenten als Wissensdatenbank ausgewählt:

Innerhalb von Sekunden hat der Assistent die Informationen verarbeitet und sie zugänglich gemacht.

Als ich es getestet habe, habe ich gefragt: "Was gibt's auf der Speisekarte?" Jade hat präzise und mühelos geantwortet und alle Gerichte aufgelistet, wie sie in der Datei standen. Sie hat sogar bestimmte Gerichte nach meinem Geschmack empfohlen und die Zutaten einzelner Speisen aufgelistet.

Vapi-Preise

Vapi hilft dir dabei, die Kosten pro Minute für Sprachanrufe zu verstehen. Es bietet eine umfassende Aufschlüsselung der Kostenstruktur deiner Assistenten, inklusive der Vapi-Marge. Am wichtigsten ist, dass Vapi einen günstigeren Preis im Vergleich zu Alternativen anbietet.

Die Kosten pro Minute hängen von vier Faktoren ab:

• KI-Modelle: Fortgeschrittene Modelle wie GPT-4 sind teurer als einfachere Optionen. Die Kosten liegen zwischen 0,32 $ und weniger als 0,01 $.
• Sprachanbieter: Die Preise unterscheiden sich je nach Text-zu-Sprache-Anbieter, wie zum Beispiel ElevenLabs, und reichen von 0,65 $ bis 0,001 $.
• Listen-Modul: Die Kosten für einen Sprache-zu-Text-Anbieter wie Deepgram liegen zwischen 0,017 $ und 0,008 $.
• Vapis Festpreis von 0,05 $ pro Minute.

Wie du siehst, können die Gesamtkosten stark variieren. Du kannst mit Gesamtkosten pro Gesprächsminute zwischen 0,07 $ und 1,03 $ im höchsten Fall rechnen. Denk daran, dass dies Schätzungen sind und nicht der exakte Preis, den du zahlst. Die gute Nachricht ist, dass du auch mit den günstigen Modellen hochwertige Anrufe bekommst.

In deinem Dashboard kannst du deine tatsächlichen Ausgaben und die durchschnittlichen Kosten pro Anruf verfolgen. Beachte bitte, dass es sich um die Kosten pro Anruf und nicht pro Minute handelt. Du kannst sie aber berechnen, indem du die gesamten Gesprächsminuten durch die Gesamtausgaben teilst. Du kannst deinen Assistenten auch testen, um ein Gefühl dafür zu bekommen, wie hoch deine Kosten pro Anruf sein werden.

Fazit

Vapi ist ein großartiges Tool für alle, die Wert auf tiefe Anpassungsmöglichkeiten legen. Es bietet reibungslose, verzögerungsarme Gespräche und beeindruckende Flexibilität. Für Einsteiger ohne Erfahrung mit KI-Modellen kann es zwar anfangs einschüchternd wirken, aber die leistungsstarken Funktionen machen es zu etwas Besonderem.

Allerdings fehlen einige UI-Optionen wie das Chat-Texten, und die Benutzeroberfläche zum Kauf von Telefonnummern könnte intuitiver sein. Auch Einbettungsoptionen gibt es nicht. Trotzdem ist Vapi durch die günstigen Preise und die gute Skalierbarkeit eine tolle Wahl für Unternehmen, die ihre Telefonie effizient ausbauen möchten – vor allem, wenn du bereit bist, mit KI-Modellen zu experimentieren.

Vapi Alternativen

Synthflow AI

Synthflow AI ist eine starke Alternative zu Vapi, besonders für alle, die eine intuitive Plattform suchen, um KI-gesteuerte Workflows ohne tiefgehende technische Kenntnisse zu erstellen. Es bietet eine No-Code-Oberfläche, sodass auch Nutzer mit wenig Programmiererfahrung problemlos einsteigen können. Gleichzeitig gibt es leistungsstarke Anpassungsmöglichkeiten. Der größte Unterschied liegt im Funktionsumfang der Oberfläche (und damit in den Möglichkeiten für Nicht-Entwickler). Dazu gehören Batch-Kampagnen (für Massen-Outbound-Kampagnen), einbettbare Widgets und Datenextraktion. Du kannst dir unseren direkten Vergleich Synthflow AI vs. Vapi anschauen, um mehr darüber zu erfahren, wie sie sich unterscheiden.

Bland AI

Bland.ai ist eine fortschrittliche, auf Unternehmen ausgerichtete Alternative zu Vapi. Im Gegensatz zu Vapi, das durch die No-Code-Option zugänglicher ist, setzt Bland.ai den Fokus darauf, Entwicklern noch mehr Flexibilität zu bieten. Die Plattform ist vollgepackt mit Enterprise-Features wie SOC2 Type II Sicherheit, Zahlungen am Telefon mit PCI DSS und mehr.

Retell AI

Retell AI hilft dir dabei, KI-Sprachagenten ganz einfach einzusetzen. Ähnlich wie Synthflow liegt der Schwerpunkt vor allem auf der Benutzeroberfläche der Plattform. Es gibt native Funktionen zum Terminbuchen (über Cal.com), automatisches Synchronisieren deiner Wissensdatenbank, Anrufweiterleitung und mehr.