Die zunehmende Nutzung künstlicher Intelligenz (KI) in der juristischen Arbeit sorgt für Unruhe in Großbritannien. Das oberste Gericht hat Anwälte jetzt dazu aufgefordert, konkrete Maßnahmen gegen die fehlerhafte Verwendung von KI zu ergreifen – nachdem in mehreren Fällen gefälschte Gerichtsentscheidungen vorgelegt wurden.
Gefälschte Urteile durch KI generiert
In zwei aktuellen Fällen in diesem Jahr fiel auf, dass die eingereichten Schriftsätze sogenannte „Halluzinationen“ von Chatbots wie ChatGPT enthielten. Dabei handelte es sich um frei erfundene Rechtsurteile oder Zitate aus tatsächlichen Fällen, die inhaltlich stark verfälscht waren.
Laut Gericht stammten diese Einreicher offenbar aus KI-Systemen, die nicht dafür entwickelt wurden, rechtlich überprüfbare Informationen zu liefern. Diese Entwicklung stelle eine ernste Gefahr für die Integrität des Justizsystems dar – und könne im schlimmsten Fall Prozesse und Urteile beeinflussen.
Warum KI in der Rechtswelt kritisch ist
Anders als in der Suche nach allgemeinen Informationen, kann ein einzelner Fehler im juristischen Kontext schwerwiegende Auswirkungen haben. Die britische Anwaltskammer betont daher, dass KI-Tools kein Ersatz für menschliche Prüfung, Fachkenntnis und ethische Standards sind.
- KI-Modelle können Inhalte „halluzinieren“ – also erfinden
- Viele Tools sind nicht für rechtliche Genauigkeit entworfen
- Haftung bleibt beim Anwalt, nicht beim Tool
Justiz reagiert mit klaren Anforderungen
Das Gericht fordert nun alle Anwälte auf, offenzulegen, ob KI in Schriftsätzen verwendet wurde. Außerdem müssen sie belegen, dass sie jeden vorgelegten Inhalt geprüft und verifiziert haben. Es geht um Transparenz und Verantwortlichkeit – zwei Grundprinzipien einer funktionierenden Rechtsordnung.
Was bedeutet das für deutsche Juristen?
Auch in Deutschland wird KI in Anwaltskanzleien und Gerichten bereits genutzt – sei es zur Recherche oder Dokumentengenerierung. Experten raten deshalb dazu, sich frühzeitig mit der rechtlichen Verantwortung in der KI-Nutzung auseinanderzusetzen. Wichtig ist: KI soll unterstützen, nicht ersetzen.
Mehr zum Thema KI-Tools und Automatisierung finden Sie in unserem Blog.
