Copilot denkt nicht, Copilot verarbeitet Muster

Es liefert plausible Antworten. Nicht zwingend richtige Antworten. Der Unterschied entscheidet darüber, wie ein Rechtsdienst mit dem Werkzeug umgehen muss.

In jedem Copilot-Workshop kommt irgendwann der Moment, in dem jemand sagt: Aber es klang doch so sicher. Genau dieser Satz zeigt das zentrale Missverständnis, das den produktiven Einsatz in einem Rechtsdienst am meisten gefährdet. Ein überzeugender Tonfall ist kein Beleg für inhaltliche Richtigkeit. Bei Copilot gilt das in besonderem Mass.

Was Copilot tatsächlich tut

Copilot denkt nicht im Sinne eines juristischen Denkens, das Sachverhalt, Norm und Subsumtion sauber trennt. Copilot verarbeitet Muster. Es hat aus einer riesigen Menge an Text gelernt, welche Wortfolgen in welchem Zusammenhang wahrscheinlich sind. Wenn es eine Antwort formuliert, setzt es diese Wahrscheinlichkeiten fort, Wort für Wort, bis ein kohärenter Text entsteht.

Das Ergebnis kann inhaltlich richtig sein. Es kann aber auch nur sprachlich richtig klingen, ohne dass der Inhalt stimmt. Der entscheidende Punkt ist: Aus der Perspektive des Systems gibt es zwischen diesen beiden Fällen keinen Unterschied. Beide Antworten fühlen sich für das Modell gleich sicher an, weil Sicherheit hier keine inhaltliche Kategorie ist, sondern eine sprachliche.

Klassische Software folgt Regeln, Copilot arbeitet mit Wahrscheinlichkeiten

Wer aus der klassischen IT kommt, ist an ein anderes Verhalten gewöhnt. Eine Formel in Excel liefert bei denselben Eingaben immer dasselbe Ergebnis. Ein Programm folgt festen Regeln, und ein Fehler lässt sich meist eindeutig auf eine falsche Regel oder eine falsche Eingabe zurückführen.

Bei Copilot funktioniert das nicht. Es gibt keine feste Regel, die man nachvollziehen könnte, sondern ein statistisches Modell, das aus dem Kontext heraus die wahrscheinlichste Fortsetzung wählt. Das erklärt, warum dieselbe Frage zu leicht unterschiedlichen Antworten führen kann und warum ein einzelnes gutes Ergebnis keine Garantie für das nächste ist.

Die Konsequenz für die juristische Arbeit

Aus dieser Eigenschaft folgt eine klare Verhaltensregel, die sich in jedem Team einüben lässt. Die Frage nach einer Copilot-Antwort lautet nicht: Stimmt das? Diese Frage lässt sich am Bildschirm allein selten beantworten, weil eine falsche Antwort genauso überzeugend klingen kann wie eine richtige. Die richtige Frage lautet: Wie kontrolliere ich das?

Diese Verschiebung ist mehr als Semantik. Wer nach der Richtigkeit fragt, sucht nach einem Gefühl der Sicherheit, das das Werkzeug systembedingt nicht zuverlässig liefern kann. Wer nach der Kontrolle fragt, sucht nach einem Verfahren: Welche Quelle bestätigt diese Aussage? Welche Stelle im Originaldokument belegt sie? Wer sonst im Team sollte einen Blick darauf werfen, bevor sie weiterverwendet wird?

Ein Beispiel aus der Vertragsprüfung

Eine Mitarbeiterin lässt Copilot eine Klausel zur Haftungsbeschränkung einordnen. Die Antwort liest sich schlüssig, nennt eine übliche Praxis und einen plausiblen Vergleichswert. Ob dieser Vergleichswert tatsächlich stimmt oder ob er eine plausible Verallgemeinerung aus Trainingsdaten ist, lässt sich aus dem Ton der Antwort nicht ablesen. Erst der Abgleich mit einer verifizierten Quelle, etwa einem internen Präzedenzfall oder einer Fachpublikation, zeigt, ob die Aussage trägt.

Dieser Abgleich kostet Zeit. Er ist aber der Unterschied zwischen einem Werkzeug, das man kontrolliert einsetzt, und einem Werkzeug, dem man blind vertraut. Und nur die erste Variante ist für die juristische Arbeit vertretbar.

Ein Vergleich mit dem Aktenstudium

Ein erfahrener Jurist, der eine neue Akte übernimmt, prüft nicht jede einzelne Angabe von Grund auf neu. Er verlässt sich auf bestimmte Quellen, etwa auf ein amtliches Register oder eine beglaubigte Urkunde, und misstraut anderen, etwa einer unbelegten Behauptung der Gegenseite. Diese abgestufte Skepsis ist eine erlernte Fähigkeit, die auf jahrelanger Erfahrung beruht. Im Umgang mit Copilot braucht es dieselbe abgestufte Skepsis, nur auf ein neues Werkzeug angewendet, dessen Vertrauenswürdigkeit sich nicht an der Quelle, sondern an der Art der Anfrage bemisst.

Wer diese Übertragung einmal bewusst vollzogen hat, wendet sie in Zukunft fast automatisch an. Genauso, wie man eine unbelegte Behauptung der Gegenseite nicht ungeprüft übernimmt, übernimmt man auch eine Copilot-Antwort ohne erkennbare Quelle nicht ungeprüft. Diese Analogie ist einer der wirksamsten Wege, um Juristinnen und Juristen, die mit dem Werkzeug noch wenig Erfahrung haben, die richtige Grundhaltung nahezubringen, weil sie an eine bereits vorhandene berufliche Kompetenz anknüpft, statt eine völlig neue zu verlangen.

Was das in der Zusammenarbeit mit externen Kanzleien bedeutet

Auch in der Zusammenarbeit mit externen Kanzleien oder Gutachterinnen gilt dieses Prinzip. Wer eine von Copilot unterstützte Einschätzung an eine externe Stelle weitergibt, ohne die Kontrolle offenzulegen, erweckt möglicherweise den Eindruck einer bereits abschliessend geprüften Aussage. Transparenz darüber, an welcher Stelle ein KI-Werkzeug mitgewirkt hat und welcher Prüfschritt bereits erfolgt ist, gehört zu einer sauberen Zusammenarbeit dazu, genauso wie man offenlegen würde, wenn ein Entwurf von einer angehenden Juristin stammt und noch der Durchsicht durch eine erfahrene Kollegin bedarf.

Klassische Software folgt Regeln. KI arbeitet mit Wahrscheinlichkeiten. Nicht fragen: Stimmt das? Sondern: Wie kontrolliere ich das?

Copilot ist deshalb kein Mitarbeiter, dem man eine Aufgabe übergibt und dessen Ergebnis man abnickt. Es ist ein Werkzeug, das plausible Entwürfe liefert, die kontrolliert werden müssen. Wer diese Haltung von Anfang an einübt, vermeidet die unangenehme Überraschung, die entsteht, wenn eine überzeugend klingende, aber falsche Aussage ungeprüft in ein Dokument übernommen wird.

Warum diese Eigenschaft in der Schulung oft zu spät kommt

In vielen Einführungen wird dieser Punkt, wenn überhaupt, ganz am Ende in einem Nebensatz erwähnt, nachdem bereits ausführlich gezeigt wurde, was Copilot alles kann. Diese Reihenfolge ist unglücklich. Wer zuerst von den Möglichkeiten begeistert wird und erst danach von der Unsicherheit hört, nimmt die Warnung als Fussnote wahr, nicht als Grundprinzip. Die Reihenfolge sollte umgekehrt sein: erst das Verständnis, wie das System funktioniert, dann die Anwendungsfälle. Wer die Funktionsweise kennt, bewertet jede einzelne Anwendung von selbst richtig, ohne dass man für jeden neuen Fall eine eigene Warnung aussprechen müsste.

Diese Reihenfolge ist auch der Grund, warum dieser Beitrag bewusst an den Anfang jeder Auseinandersetzung mit Copilot gehört, noch vor der ersten praktischen Übung. Ein Team, das dieses Prinzip verinnerlicht hat, bevor es die ersten eigenen Prompts schreibt, entwickelt von Beginn an einen kontrollierten Umgang, statt ihn sich später mühsam anzugewöhnen.

Ein zweites Beispiel aus dem Behördenkontakt

Ein Mitarbeiter eines Rechtsdiensts der öffentlichen Hand lässt sich von Copilot eine Zusammenfassung zur Zuständigkeit einer bestimmten Behörde in einem Grenzfall erstellen. Die Antwort ist klar strukturiert, nennt eine Zuständigkeit und begründet sie mit einem scheinbar einschlägigen Verfahrensgrundsatz. Erst der Blick ins Gesetz zeigt, dass die genannte Zuständigkeit in dieser Konstellation so nicht zutrifft, weil eine Sonderregelung greift, die dem Modell in dieser Kombination nicht bekannt war oder die es falsch gewichtet hat.

Wäre diese Antwort ungeprüft in eine Stellungnahme gegenüber der betroffenen Person übernommen worden, hätte das zu einer falschen Auskunft und im schlechtesten Fall zu einem Vertrauensschaden geführt. Der Fehler wurde entdeckt, weil die Kontrollfrage gestellt wurde: Worauf stützt sich diese Zuständigkeit konkret? Diese eine Frage, konsequent gestellt, verhindert die meisten Fehler, bevor sie Wirkung entfalten.

Wie sich diese Haltung im Team verankern lässt

Eine einzelne Person kann sich diese Kontrollhaltung angewöhnen. Ein ganzes Team braucht dafür eine gemeinsame Praxis, damit die Sorgfalt nicht von der Tagesform Einzelner abhängt. Bewährt hat sich eine einfache Regel: Jede Aussage aus Copilot, die in ein Dokument nach aussen fliesst, braucht eine benannte Quelle oder eine ausdrückliche Kennzeichnung, dass sie noch nicht verifiziert wurde. Diese Regel lässt sich in wenigen Minuten erklären, aber sie verändert die Fehlerquote spürbar, weil sie die Kontrolle vom Zufall in ein Verfahren überführt.

Microsoft Copilot für Juristinnen und Juristen vertiefen

Im offenen Online-Webinar lernen Sie, Microsoft Copilot gezielt im juristischen Alltag einzusetzen. Im Fokus stehen konkrete Anwendungen in Outlook, Word, Teams und weiteren Microsoft-365-Programmen.