Wie gut sind lokale Modelle?

Für die meisten Aufgaben mit Ihren eigenen Unterlagen reicht ein lokales Modell heute aus. Hier sehen Sie, wo Spitzenmodelle aus der Cloud vorn liegen und wie Sie die Qualität vor der Entscheidung mit Ihren eigenen Fällen prüfen.

Kurz gesagt

Die Antwort hängt von der Aufgabe ab

Stark, wo die Antwort in Ihren Unterlagen steht

Zusammenfassen, Daten auslesen, Dokumente vergleichen, Fragen zu Akten beantworten, Antwortentwürfe schreiben. Das Modell muss hier nicht alles wissen, sondern Ihre Unterlagen genau lesen.

Spitzenmodelle liegen bei offenen Aufgaben vorn

Lange Analysen ohne feste Vorlage, anspruchsvoller Programmcode, sehr lange Dokumente in einem Durchgang und seltene Fachgebiete. Für nicht vertrauliche Daten kann Ihre IT dafür ein Cloud-Modell freigeben.

Der Aufbau entscheidet mit

Suche mit Rechten pro Dokument, Antworten mit Quellen, Workflows mit festen Prüfschritten und eine Freigabe vor dem Versand machen auch ein kleineres Modell verlässlich.

Beispiele

Vier typische Aufgaben, lokal erledigt

Alle Unterlagen, Firmen und Werte auf dieser Seite sind fiktiv. Sie zeigen, welche Art von Ergebnis Sie vom lokalen Modell erwarten können.

Bank

Kreditanfrage vorprüfen

Unterlagen
Selbstauskunft, zwei Jahresabschlüsse und eine BWA der Muster Metallbau GmbH, zusammen 38 Seiten.
Ergebnis des lokalen Modells
Eigenkapitalquote, Umsatzentwicklung und Liquidität mit Seitenangabe, drei fehlende Unterlagen und zwei Auffälligkeiten als Rückfragen, als Entwurf für die Marktfolge.
Einordnung
Die Zahlen stehen in den Unterlagen. Das Modell muss sie finden, richtig rechnen und die Quelle nennen.
Kanzlei

Mandantenpost zuordnen und beantworten

Unterlagen
Mail eines Mandanten mit einem Steuerbescheid als PDF im Anhang.
Ergebnis des lokalen Modells
Zuordnung zur Akte, Einspruchsfrist aus dem Bescheid, kurzer Antwortentwurf im Postfach, der auf Freigabe wartet.
Einordnung
Eine klar umrissene Aufgabe mit festen Regeln. Der Mensch gibt frei, bevor etwas das Haus verlässt.
Gesundheit

Arztbrief entwerfen

Unterlagen
Fallakte mit Aufnahmebefund, Laborwerten, Verlauf und Medikation.
Ergebnis des lokalen Modells
Entwurf nach Hausvorlage mit Diagnosen, Verlauf und Medikation; Widersprüche zwischen Befund und Verlauf sind markiert.
Einordnung
Die ärztliche Prüfung bleibt. Der Entwurf erspart das Zusammensuchen aus der Akte.
Industrie

Lieferantenangebote vergleichen

Unterlagen
Drei Angebote mit unterschiedlichen Preisstaffeln, Lieferzeiten und Zahlungsbedingungen.
Ergebnis des lokalen Modells
Tabelle mit Gesamtpreis je Bestellmenge, Lieferzeit und allen Abweichungen von den eigenen Einkaufsbedingungen.
Einordnung
Auslesen und Vergleichen nach festen Kriterien gelingt lokal zuverlässig.

Beispielauswertung

So messen wir die Qualität

Für jede Aufgabe legen wir Prüffälle mit bekannter richtiger Antwort an. Fachleute bewerten jedes Ergebnis: richtig, mit kleinen Korrekturen nutzbar oder falsch.

Fiktive Werte zur Veranschaulichung, keine Messung. Im Pilot ermitteln wir diese Werte mit Ihren eigenen Unterlagen.

AufgabePrüffälleLokales ModellSpitzenmodell in der Cloud
Kennzahlen aus Jahresabschlüssen auslesen4037 richtig, 2 mit Korrektur38 richtig, 2 mit Korrektur
Antwortentwürfe auf Kundenmails5041 richtig, 8 mit Korrektur44 richtig, 5 mit Korrektur
Verträge mit dem Muster vergleichen3026 richtig, 3 mit Korrektur28 richtig, 2 mit Korrektur
Offene Marktanalyse ohne Vorlage2011 richtig, 6 mit Korrektur16 richtig, 3 mit Korrektur

So lesen Sie das Beispiel: Bei Aufgaben mit festen Unterlagen liegen beide Modelle nah beieinander. Bei offenen Analysen liegt das Spitzenmodell deutlich vorn. Solche Aufgaben betreffen aber selten vertrauliche Daten und lassen sich gezielt einem Cloud-Modell zuweisen.

Selbst prüfen

So prüfen Sie die Qualität mit Ihren Fällen

1

Fälle auswählen

30 bis 50 echte Fälle einer Aufgabe, jeweils mit der Antwort, die Ihre Fachleute erwarten.

2

Laufen lassen

Das lokale Modell bearbeitet alle Fälle auf Ihrem Server. Für nicht vertrauliche Fälle kann zum Vergleich ein Cloud-Modell mitlaufen.

3

Bewerten

Ihre Fachleute bewerten jedes Ergebnis: richtig, mit kleinen Korrekturen nutzbar oder falsch.

4

Entscheiden

Für jede Aufgabe legen Sie fest: lokal, Cloud-Modell für nicht vertrauliche Daten oder weiter von Hand.

Häufige Fragen zu lokalen Modellen

Welches Modell läuft auf meinem Server?

Ein Open-Weight-Modell, dessen Gewichte vollständig auf Ihrem Server liegen. Welches Modell wir für Ihre Aufgaben empfehlen, mit Herkunft und Lizenz, besprechen wir im Gespräch.

Werden die lokalen Modelle besser?

Ja. Neue Open-Weight-Modelle erscheinen in kurzen Abständen. Wir prüfen sie und spielen bessere Modelle mit den Updates auf Ihren Server ein.

Kann ich für einzelne Aufgaben ein Cloud-Modell nutzen?

Ja, wenn Ihre IT es freigibt: für die ganze Organisation, für einzelne Agenten oder für einzelne Workflows. Namen und Kontodaten lassen sich vorher pseudonymisieren. Mehr unter Modelle.

Ist ein lokales Modell langsamer?

Das hängt davon ab, wie viele Anfragen gleichzeitig laufen. Wir legen den Server für Ihre Nutzung aus; Chat-Anfragen haben Vorrang vor Arbeit im Hintergrund.

Prüfen Sie es mit Ihren Unterlagen

In der Demo zeigen wir das lokale Modell an Beispielen aus Ihrer Branche. Im Pilot messen wir die Qualität mit Ihren echten Fällen.