Ein KI-Assistent, der nicht nur die Software kennt, sondern auch den eigenen Betrieb: Ab Herbst kann Ährwin Fragen zu echten Betriebsdaten beantworten und bestimmte Vorgänge vorbereiten. Doch gerade dann stellt sich eine Frage ganz automatisch: Was passiert eigentlich mit den Daten?

Wie kommt ein KI-Assistent an die Informationen eines einzelnen Betriebs? Wo werden sie verarbeitet? Und kann Ährwin plötzlich Dinge im System sehen oder verändern, die er eigentlich gar nicht dürfte?

Wir haben mit Dr. Sascha Brauer aus der Entwicklung darüber gesprochen, wie Ährwin technisch arbeitet und wo die Grenzen des KI-Assistenten bewusst gesetzt sind.

AM: Sascha, Ährwin soll künftig Fragen zu echten Betriebsdaten beantworten. Wie kommt ein KI-Assistent überhaupt an die Daten eines einzelnen Betriebs? 

Dr. Sascha Brauer: Zunächst einmal gar nicht automatisch. Der Zugriff auf die eigenen Betriebsdaten muss ausdrücklich freigegeben werden. Wenn ein Nutzer Ährwin eine Frage stellt, weiß das System, in welchem Betrieb diese Anfrage gestellt wird und welche Berechtigungen der jeweilige Nutzer hat. Ährwin arbeitet also immer im Kontext dieses konkreten Betriebs. Stellt jemand beispielsweise die Frage: „Wie viel Umsatz habe ich letztes Jahr mit Kunde Meier gemacht?“, sucht Ährwin nicht irgendwo nach einem Kunden Meier. Die Anfrage bezieht sich ausschließlich auf die Daten des Betriebs, in dem sie gestellt wurde. Das ist auch der Grund, warum dieselbe Frage bei zwei verschiedenen Betrieben zwei völlig unterschiedliche Antworten liefern kann. Die Frage ist dieselbe, die Daten dahinter sind es nicht.

AM: Und was passiert mit den Daten, wenn ich Ährwin eine Frage stelle? 

Dr. Sascha Brauer: Man kann sich das ein bisschen wie einen Übersetzer vorstellen. Der Nutzer stellt seine Frage ganz normal in seiner eigenen Sprache. Ährwin muss zunächst verstehen, was damit gemeint ist. Aus „Welche Maschine hat mich letzte Saison am meisten gekostet?“ wird technisch gesehen eine konkrete Anfrage: Welche Maschinen gehören zu diesem Betrieb? Welche Kosten sind ihnen im gewünschten Zeitraum zugeordnet? Und welche davon sind am höchsten? Für eine Anfrage werden die Informationen benötigt, die zur Beantwortung dieser konkreten Frage relevant sind. Dabei wird nicht einfach der komplette Datenbestand eines Betriebs genommen und irgendwohin geschickt. Entscheidend ist außerdem: Die Daten eines Unternehmens werden nicht mit denen anderer Betriebe vermischt. Ährwin sieht ausschließlich den Betrieb, in dessen Kontext er gerade gefragt wird. Der Nutzer hat dabei die Möglichkeit, “seinen Ährwin” mit einer KI seiner Wahl, z.B. ChatGPT oder Claude, zu verbinden.

AM: Ährwin soll künftig aber nicht nur Antworten geben, sondern auch Dinge eintragen. Was passiert, bevor tatsächlich etwas im System verändert wird? 

Dr. Sascha Brauer: Hier war uns wichtig, dass die KI nicht einfach im Hintergrund etwas verändert. Wenn jemand zum Beispiel schreibt: „Tim ist zwei Tage krank, Lennart hat morgen Urlaub. Bitte eintragen“, muss Ährwin zunächst verstehen, was genau gemeint ist. Welche Personen? Welche Tage? Welche Art von Abwesenheit? Er bereitet den Vorgang vor und zeigt dem Nutzer in Textform, was er eintragen möchte. Erst dann wird der Vorgang freigegeben. Das ist bewusst so gestaltet. Sprache ist nicht immer eindeutig und auch eine KI kann etwas falsch verstehen. Deshalb soll der Nutzer vor einer Änderung immer sehen können, was Ährwin aus seiner Anweisung gemacht hat. Die KI nimmt also Arbeit ab, aber die Kontrolle über die Änderung bleibt beim Menschen.

„Ährwin bekommt nicht mehr Rechte als der Mensch, der ihn nutzt“ Dr. Sascha Brauer

AM: Kann Ährwin dadurch Dinge sehen oder tun, die der jeweilige Nutzer in AGRARMONITOR eigentlich nicht darf? 

Dr. Sascha Brauer: Nein. Die bestehenden Rechte gelten weiterhin. Ährwin ist kein Hintereingang zu Informationen, für die ein Nutzer eigentlich keine Berechtigung hat. Wenn jemand in AGRARMONITOR bestimmte Daten nicht sehen darf, dann kann diese Person sie auch nicht einfach über eine Frage an Ährwin abrufen. Das war für uns ein wichtiger Grundsatz bei der Entwicklung: Ährwin bekommt keine Sonderrechte. Er kann die Art verändern, wie man mit den Daten arbeitet. Man muss vielleicht keinen bestimmten Bericht mehr öffnen oder wissen, in welchem Bereich eine Information zu finden ist. Aber die bestehenden Berechtigungen werden dadurch nicht ausgehebelt. Kurz gesagt: Ährwin bekommt nicht mehr Rechte als der Mensch, der ihn gerade nutzt.

AM: Wo ist die Grenze? Was kann Ährwin noch nicht und was soll er auch künftig nicht eigenständig entscheiden? 

Dr. Sascha Brauer: Ährwin ist ein Assistent, kein autonomer Betriebsleiter. Und das ist bewusst so. Er kann Informationen auswerten, Fragen beantworten und Vorgänge vorbereiten. Er kann dabei helfen, Daten schneller zu finden oder wiederkehrende Arbeitsschritte einfacher zu erledigen. Aber Ährwin trifft keine unternehmerischen Entscheidungen für den Betrieb. Er entscheidet nicht selbstständig, was richtig oder falsch ist, und er soll auch nicht einfach im Hintergrund anfangen, eigenständig im System zu arbeiten. Wir wollen mit Ährwin nicht die Verantwortung vom Menschen auf eine KI übertragen. Unser Ziel ist vielmehr, dass der Mensch einfacher mit seinen eigenen Daten arbeiten kann. Am Ende soll man nicht mehr lange überlegen müssen, welchen Bericht man öffnen oder welchen Filter man setzen muss. Man soll einfach fragen können. Und genau das ist für uns die eigentliche Aufgabe von Ährwin: Die Daten bleiben die Daten des Betriebs. Ährwin hilft nur dabei, sie einfacher zu nutzen.