Welche Erwartungen haben wir an KI als Arbeitskollege, d.h. wie wollen wir KI im Arbeitsalltag und was müssen wir dabei beachten? Diese Fragen diskutierten Mitglieder des PAL-Konsortiums am 24. Mai 2024 in einem Workshop an der Hochschule Mittweida mit Diplom-Informatikerin Anika Holtermüller.
Wie Kinder lernen, wissen wir. Sie ahmen nach, was sie bei anderen sehen, hören sich Erklärungen an und probieren Dinge aus. Wenn sie dabei Grenzen überschreiten und darauf hingewiesen werden, beachten sie diese zukünftig (wenn auch manchmal nur, weil sie ansonsten mit Konsequenzen rechnen müssen). Eine optimale Lernbegleitung und wie diese aussieht, ist ein vieldiskutiertes Thema in unserer Gesellschaft, denn uns eint der Wunsch, unseren Kindern eine bestmögliche Entwicklung zu gewähren.
Das Anlernen von KI hingegen haben wir in der Vergangenheit, ohne groß darüber nachzudenken, in die Hände weniger Menschen gelegt. Möglicherweise nicht zuletzt deshalb, weil kaum jemand sich die Frage gestellt hat, wie genau KI eigentlich lernt. Nun, da sie zunehmend in verschiedensten Tools, wie ChatGPT, Bildgeneratoren, ChatBots für Kundenkommunikation oder HR Management Tools zum Einsatz kommt, stellt sich heraus, dass sie vielfach Schwächen aufweist. Insbesondere sogenannte BIAS (Vorurteile), die zur Ausgabe fehlerhafter oder unvollständiger Informationen führen, verdeutlichen dies.
Wir haben uns bisher offensichtlich zu wenig mit der Frage beschäftigt, wie eine Maschine eigentlich lernt. Es sind nicht nur die Daten, mit denen man sie füttert, um ihr umfangreiches Wissen beizubringen. Genauso oder vielleicht sogar noch wichtiger ist es, der KI beizubringen, welche Grenzen es zu beachten gilt, ähnlich wie bei einem Kleinkind, dem man in solchen Situationen sagt „das macht man nicht“.
Das Wissen, mit dem die heute bereits zum Einsatz kommende KI trainiert wurde und wird, insbesondere Modelle, die ihre Daten aus dem Internet beziehen, ist tatsächlich leider vielfach veraltet und unvollständig, teilweise politisch motiviert, in manchen Fällen ironisch, zynisch oder sogar absichtlich falsch. Die KI selbst ist nicht in der Lage, den Wahrheitsgehalt dieser Lerndaten zu überprüfen. Durch deren unkontrollierte Aufnahme übernimmt sie also vorhandene BIAS und verstärkt diese im schlechtesten Falle sogar noch.
Ein unüberwachtes Lernen einer KI führt also möglicherweise zu fatalen Ergebnissen.
„KI kann sehr schnell Daten analysieren, aber die Wahrheit nur schwer bewerten“, sagt Anika Holtermüller dazu. Nach wie vor neigen selbstlernende KI-Systeme dazu, fehlende Daten und Informationen hinzuzuerfinden, d.h. sie können zwar sehr schnell komplexe Antworten auf schwierige Fragen generieren, aber man kann sich auf dieses Ergebnis keinesfalls verlassen, ohne wenigstens eine Quellenprüfung vorgenommen zu haben. Algorithmen können sogar digitale Demenz erleiden, also Informationen, die sie schon einmal besaßen, wieder verlieren.
Wie kann ich mich auf eine KI verlassen, wenn ich nicht sicher sein kann, dass sie falsch liegt und das, was sie entscheidet, nicht der tatsächlichen Sachlage entspricht?
Aus Sicht von Anika Holtermüller ist es die Aufgabe aller, hier gesellschaftliche Verantwortung zu übernehmen: „Was können wir tun? Verstehen, lernen, sehen, hinterfragen!“ Aktuell sind wir aus ihrer Sicht erst an einem Punkt, an dem wir bei der Nutzung von KI stark differenzieren müssen: „Immer, wenn eine Lösung rational von Menschen überprüfbar ist, kann eine Maschine diese übernehmen. Eine Entscheidung, die moralische oder ethische Komponenten enthält, kann ich einer Maschine hingegen aktuell noch nicht überlassen, möglicherweise auch niemals.“
Anika Holtermüller
Mit dem am 21. Mai 2024 durch die EU-Mitgliedstaaten verabschiedeten AI Act (KI-Verordnung) versucht die Europäische Union aktuell, Sicherheit in KI-Daten zu bringen, u.a. durch Kennzeichnungspflichten, durch die deutlich wird, welche Daten von Menschen und welche von Maschinen erstellt wurden.
Am Nachmittag zeigte Anika Holtermüller den Teilnehmenden live, unter anderem wie man sich mithilfe von ChatGPT ein kleines Programm zur Analyse von E-Mails auf Event-Daten und der direkten Übernahme dieser Daten in den eigenen Outlook-Kalender selbst schreiben kann. Ihre eindringliche Aufforderung an alle Beteiligten: „Machen Sie sich klar, dass die KI uns als Gestalter, Regulierer und Wächter benötigt – im Entstehungsprozess genauso wie während der Anwendung. Jede Person, die KI nutzt, sollte sich dieser wichtigen Aufgabe bewusst sein und in die Nutzung aktiv einbeziehen.“ Das beginnt schon bei der Tonalität, mit der ein Prompt formuliert wird und endet nicht beim aktiven Hinweisen des Systems auf falsche Informationen oder solche, die BIAS enthalten. Gleiches gilt auch für die Entwicklung von KI-Systemen: hier sollten Hersteller ganz bewusst in ihren Prozess entsprechende Prüfschleifen einbeziehen – und zwar nicht erst in der Phase der Usability Tests.
Gemeinsames Live-Brainstorming: Wobei kann KI mich im Arbeitsalltag unterstützen?
Anika Holtermüller und Katharina Müller-Eppendorfer
Dass die Anwendung von KI in vielen Branchen Jobs verändern oder sogar überflüssig machen wird, davon ist Anika Holtermüller überzeugt. Ebenso davon, dass es auf dem Weg zur Anwendung von KI in den Teams viel Bereitschaft zur Mitgestaltung bedarf, die nicht immer von vornherein gegeben ist. „Wir können nicht gegen den Jobverlust durch KI arbeiten, aber wir können aktiv etwas gegen die Angst der Personen, die davon betroffen sein werden, tun“, sagt sie dazu. Letztendlich bietet sich aus ihrer Sicht in vielen Berufen die Chance, sich durch die Anwendung von KI weiterzuentwickeln, indem man die einzelnen Mitarbeitenden dabei unterstützt, die Potenziale für ihre eigene Rolle zu erkennen. Nicht immer sind diese Potenziale von vornherein erkennbar, aber wer bereit ist, sich auf die Reise zu begeben, wird mit Sicherheit davon profitieren. Deshalb sei es für Unternehmen wichtig, Richtlinien z. B. in Form von speziellen Betriebsvereinbarungen bzw. Rahmenbetriebsvereinbarungen zur Einführung und Nutzung von KI festzulegen und sich Gedanken darüber zu machen, wie man eine Lösung findet, mit der alle zufrieden sind: „Ihre Mitarbeitenden für diese gemeinsame Reise zu begeistern, ist eine zentrale Aufgabe für alle Unternehmen, die KI nutzen möchten.“
Mehr über Anika Holtermüller auf ihrer Homepage she-talks-tech.de
PAL on Tour – v.l.n.r.: Susanne Merkel, Jens Gerlinghoff, Sindy Herrmann, Sarah Kelschebach
Das Konsortium lauscht dem spannenden Themen beim Vortrag von Anika Holtermüller
Auch unser PAL on Tour Bus war an diesem Tag vertreten und umrahmte die Veranstaltung mit wertvollen Erkenntnissen aus den Schwerpunktprojekten.