26. August 2025 KI-Assistenzsysteme. »Was passiert, wenn die KI sich irrt?«

Frau Müller, aus den Reihen Ihrer Mitglieder kommen viele Beschwerden wegen fehlerhafter KI-Auswertungen. Woran liegt das?

Am Ende aus der mangelnden Integration der KI in den Verwaltungsprozess. 

Was meinen Sie damit?

Machen wir ein Beispiel: Auf einer Koppel ist die Grasnarbe vor dem Futterplatz zertreten. Die KI analysiert das als Umbruch und es kommt zu einer Prämienkürzung. Die KI hat das falsch erkannt, aber wenn ihr niemand »sagt«, was die richtige Interpretation des Bildes ist, lernt sie falsch und wird den Fehler künftig immer wiederholen. Eine falsche Bestätigung oder unterlassene Korrektur führt damit zum falschen Anlernen der KI. Oder die KI erkennt eine temporäre Überschwemmungsfläche richtig und lehnt sie daher als  Ackerfläche ab. Dann müsste das Landwirtschaftsamt den Fehler beheben. 

Aber geschieht das nicht?

Doch, das schon. Aber oft nicht zeitnah und leider auch nicht immer rechtzeitig. In erster Linie werden die Betriebe aufgefordert, eine Überprüfung durchzuführen – das haben aber einige Betriebsleiter nicht als Aufforderung registriert bzw. haben aufgrund fehlerhafter, wiederholter Meldungen den Nachrichten vom Agrarportal ab einem bestimmten Punkt keine Beachtung
mehr geschenkt. Dem Landwirtschaftsamt hätte diese Entwicklung auffallen sollen bzw. die Informationen, die dem Amt vorliegen, müssen an die Betriebe weitergeleitet werden – unaufgefordert.

Das Kernproblem ist also die mangelnde Verzahnung von KI und Verwaltung?

Genau. Die Verwaltung betrachtet KI zu oft noch als ein normales Computerprogramm.  Aber es ist ein lernendes System, das für viele Verwaltungsabläufe zu schnell ist. Die KI lernt von den Korrekturen. Daher müssten die für gleiche Fehler gleichlautend sein – das kann jedoch nur vom Verwaltungsapparat durchgeführt und sichergestellt werden. 

Haben Sie einen Lösungvorschlag für das Problem? Vielleicht mehr Personal?

Nein, wir brauchen keinesfalls mehr Mitarbeiter in der Verwaltung. Vielmehr brauchen wir eine schnellere und einfachere Umsetzung von Korrekturen. Das bedingt bedienerfreundlichere und
schnellere Zugriffsmöglichkeiten auf das von der WIBank betriebene hessische Agrarportal. Von Landwirten zu verlangen, immer auf dem neuesten Stand der Technik zu sein und die KI zu schulen, ist schlicht unrealistisch.