Was eine sichere KI-Lösung für Sachverständige leisten muss

Aus fachlicher Sicht lassen sich mehrere zentrale Anforderungen ableiten:

Erstens muss Datenschutz kompromisslos gewährleistet sein. Personenbezogene Daten dürfen nicht an unsichere oder intransparente KI-Systeme übermittelt werden. Insbesondere Cloud-basierte, kommerzielle Modelle mit Training auf Nutzerdaten sind problematisch. Erforderlich sind DSGVO-konforme Architekturen, klare Auftragsverarbeitung, Datenschutzfolgeabschätzungen und kontrollierte Serverstandorte innerhalb der EU.

Zweitens fordert der EU AI Act eine klare Begrenzung der Anwendungsfälle. KI darf Sachverständige nur bei vorbereitenden Tätigkeiten unterstützen – etwa bei Transkriptionen, Strukturierungen oder Zusammenfassungen. Automatisierte Bewertungen, Profiling oder Entscheidungsfindung sind unzulässig.

Drittens ist Transparenz und Kontrollierbarkeit entscheidend. Sachverständige bleiben persönlich verantwortlich. Jede KI-Ausgabe muss überprüfbar sein, die Nutzung nachvollziehbar dokumentiert werden. Blackbox-Systeme gefährden Nachvollziehbarkeit, Neutralität und letztlich die Verwertbarkeit von Gutachten.

Viertens braucht es fachliche Passgenauigkeit. Allgemeine KI-Modelle sind weder auf rechtspsychologische Terminologie noch auf gutachterliche Prozesse ausgelegt. Sie bergen erhebliche Risiken durch Bias, Kontextverluste oder inhaltlich überzeugend klingende, aber fehlerhafte Aussagen.

Wie next-genpsy diese Anforderungen konkret umsetzt

Genau an diesen Punkten setzt next-gen psy an. Die Plattform wurde gezielt für die Anforderungen von Sachverständigen der Rechtspsychologie entwickelt – technisch, rechtlich und fachlich.

Alle Daten werden ausschließlich auf Servern in Deutschland verarbeitet, unter Anwendung deutschen und europäischen Datenschutzrechts. Eingesetzt werden lokal betriebene, europäische KI-Modelle, die nicht mit Benutzerdaten trainiert werden. Ein AVV wird mit jedem Sachverständigen abgeschlossen, eine Datenschutzfolgeabschätzung wurde mit juristischer Begleitung durchgeführt.

Die Nutzung der KI ist EU-AI-Act-konform begrenzt: keine automatisierten Entscheidungen, kein Profiling, keine Bewertungen. Die KI dient ausschließlich als Arbeitsgrundlage für vorbereitende Tätigkeiten. Die fachliche Prüfung und Verantwortung verbleiben stets beim Menschen.

Zugleich sind die Lösungen von next-gen psy praxisnah und verständlich gestaltet. Sichere, personengebundene Zugänge (inkl. 2FA), klare Prozesslogiken und begleitende Schulungen ermöglichen auch Anwendern ohne KI-Vorkenntnisse einen sicheren Einsatz.

Fazit

Fachliche Einordnungen aus der Begutachtungspraxis machen deutlich: KI kann Sachverständige entlasten – aber nur innerhalb enger rechtlicher und fachlicher Grenzen. Spezialisierte, kontrollierbare Lösungen verbinden Datenschutz, Prozesssicherheit und fachliche Verantwortung zu einem verlässlichen Werkzeugansatz.

Für Sachverständige, die KI verantwortungsvoll nutzen wollen, ist genau diese Kombination entscheidend.

Der Beitrag Sichere KI für Sachverständige: Anforderungen, Risiken und eine praktikable Lösung erschien zuerst auf KI-Lösungen für Rechtspsycholog:innen.

Gleichzeitig wird in der fachlichen Diskussion deutlich, dass dieser Weg zwar perspektivisch tragfähig sein kann, jedoch mit erheblichen Anforderungen verbunden ist: Wer eine solche Lösung selbst betreibt, übernimmt nicht nur die fachliche Verantwortung, sondern auch technische, regulatorische und haftungsrechtliche Pflichten – von DSGVO und Auftragsverarbeitung bis hin zu den Betreiberpflichten aus dem EU AI Act.

Technische Anforderungen: Betrieb statt Nutzung

Sobald Sachverständige nicht nur Nutzer, sondern Betreiber einer KI werden, verschiebt sich ihre Rolle grundlegend. Sie tragen dann Verantwortung für:

• den sicheren Betrieb der Infrastruktur (Server, Netzwerke, Zugriffskontrollen),
• die Auswahl, Konfiguration und Wartung geeigneter KI-Modelle,
• den Schutz vor Datenabflüssen, Fehlkonfigurationen und Sicherheitslücken,
• die Begrenzung von Anwendungsfällen auf vorbereitende Tätigkeiten.

Insbesondere bei lokalen oder „geschlossenen“ Systemen entstehen zusätzliche Anforderungen an Rechenleistung, Systemadministration, Updates und Fehlerbehebung. Hinzu kommt, dass eine praxistaugliche KI-Lösung nicht allein aus einem Modell besteht, sondern eine komplette Software erfordert: Prozess­orchestrierung entlang der gutachterlichen Arbeitsschritte, sichere Datenflüsse, Rollen- und Rechtekonzepte, Logging und Nachvollziehbarkeit sowie eine stabile Applikationsarchitektur.

Damit verbunden sind die Konzeption und Umsetzung einer benutzerfreundlichen Oberfläche (GUI), die Entwicklung von Workflows und Eingabemasken, die Definition von Nutzungskonzepten für verschiedene Anwendungsfälle (z. B. Transkription, Strukturierung, Zusammenfassung), sowie die Erstellung von Leitlinien und Bedienlogiken, die eine prozessuale Nutzbarkeit im Alltag überhaupt erst ermöglichen. In Summe handelt es sich um klassische Aufgaben aus Softwareentwicklung, Produktdesign und IT-Betrieb – und damit um einen Verantwortungs- und Kompetenzbereich, der deutlich von den eigentlichen Kernaufgaben rechtspsychologischer Sachverständiger abweicht.

Datenschutz & DSGVO: volle Verantwortung beim Betreiber

Der EU AI Act richtet sich primär an Anbieter und Betreiber von KI-Systemen. Wer eine eigene KI betreibt oder anpasst, kann schnell als solcher gelten. Daraus ergeben sich unter anderem:

• Dokumentations- und Transparenzpflichten,
• Schulungspflichten (KI-Kompetenz),
• Risikoklassifizierung der Anwendung,
• potenzielle Haftung bei Fehlfunktionen oder unzulässigem Einsatz.

Gerade im Umfeld gerichtlicher Begutachtung ist das Risiko hoch, unbeabsichtigt in einen regulierten oder gar hochriskanten Bereich zu geraten – etwa durch automatisierte Bewertungen, Profiling oder Entscheidungsunterstützung.

Berufsrecht & Haftung: Verantwortung bleibt beim Sachverständigen

Unabhängig von der technischen Lösung bleibt der Sachverständige berufsrechtlich voll verantwortlich. KI darf nur als Hilfsmittel für vorbereitende Tätigkeiten eingesetzt werden. Jede Überschreitung dieses Rahmens kann:

• die Verwertbarkeit des Gutachtens gefährden,
• zu haftungsrechtlichen Konsequenzen führen,
• als grobe Fahrlässigkeit gewertet werden.

Wer zusätzlich Betreiber der KI ist, trägt nicht nur die fachliche, sondern auch die technische und organisatorische Verantwortung.

Ein realistisches Fazit

Der Zusammenschluss von Sachverständigen zur Entwicklung eigener KI-Lösungen ist theoretisch möglich – praktisch aber mit erheblichem Aufwand, hohen Kosten und nicht zu unterschätzenden Haftungsrisiken verbunden. Er erfordert dauerhaftes technisches, juristisches und organisatorisches Know-how, das weit über die eigentliche Sachverständigentätigkeit hinausgeht.

Der Ansatz von next-genpsy

Wir sind überzeugt, dass es für rechtspsychologische Sachverständige sinnvoller ist, technische, regulatorische und haftungsrelevante Themen in die Hände spezialisierter, erprobter Anbieter zu legen. Anbieter, die Oberflächen, Infrastruktur, Datenschutz, EU-AI-Act-Konformität und Betrieb professionell absichern.

Gleichzeitig halten wir es für entscheidend, dass Sachverständige sich inhaltlich aktiv einbringen: bei der Definition von Anwendungsfällen, Prozessen und fachlichen Anforderungen. Nur so entstehen KI-Lösungen, die praxisnah, rechtssicher und fachlich verantwortbar sind.

Technik und Regulierung professionell betrieben – Fachlichkeit gemeinsam gestaltet.
Das ist aus unserer Sicht der nachhaltigste Weg für den Einsatz von KI in der Rechtspsychologie.

Der Beitrag KI in der Rechtspsychologie: Was es bedeutet, eine eigene Lösung zu entwickeln und zu betreiben erschien zuerst auf KI-Lösungen für Rechtspsycholog:innen.