In einer Ära, in der Künstliche Intelligenz (KI) in zahlreichen Bereichen wie autonomem Fahren, Bildbearbeitung und der Analyse medizinischer Daten an Bedeutung gewinnt, äußern Wissenschaftler Bedenken hinsichtlich eines unreflektierten Einsatzes dieser Technologien. Die Möglichkeiten, die KI bietet, scheinen nahezu grenzenlos zu sein, doch Experten warnen vor den potenziellen Gefahren, die mit einem unkritischen Vertrauen in diese Systeme einhergehen.
Die Illusion der Menschlichkeit
Maximilian Kiener, vom Institut für Ethik in der Technologie an der Technischen Universität Hamburg, betont:
„Die KI kann rechnen, aber entscheiden muss der Mensch.“
In vielen Lebensbereichen, sei es bei der Wahl des Karrierewegs oder in therapeutischen Situationen, scheinen KI-Systeme die richtigen Antworten zu liefern. Diese vermeintliche Menschlichkeit sei jedoch eine gefährliche Illusion, die Nutzer oft dazu verleitet, blind zu vertrauen. Kiener erklärt:
„Was gar nicht geht, sind Wertsetzungen. Welchen Karriereweg soll ich verfolgen? Anwalt werden, Ärztin werden? Da gibt es nicht die eine Antwort. Das ist auch keine Rechenaufgabe.“
Soziale Fragestellungen und ethische Überlegungen
Bei Themen wie Einsamkeit oder Bildung handelt es sich häufig um komplexe soziale Fragestellungen, die nicht einfach durch technische Lösungen gelöst werden können. Kiener sieht in vielen aktuellen KI-Anwendungen keine echten Innovationen:
„Dinge, die nur neu sind, sind keine Innovation. Ich tue mich beispielsweise sehr schwer, Deepfake-Bilder von Kindern, die vielleicht auch sexualisiert dargestellt werden, als Innovation zu erkennen.“
Er ist der Meinung, dass Ethik nicht die Entwicklung von KI bremst, sondern sie tatsächlich nützlicher für die Menschen macht. Eine optimale Zusammenarbeit zwischen Mensch und KI sei entscheidend, um gemeinsam Lösungen zu erarbeiten.
Der sokratische Ansatz in der KI
Matthias Uhl, Professor für Wirtschafts- und Sozialethik an der Universität Hohenheim, hat einen sokratischen Chatbot entwickelt, der sich von herkömmlichen KI-Systemen unterscheidet.
„Die sokratische KI stellt Fragen und hilft mir, meine eigene Lösung auf die Probleme zu finden, anstatt mir direkte Antworten zu geben.“
In mehreren Experimenten konnte das Team der Universität Hohenheim und der Universität Bamberg zeigen, dass dieser angepasste Chatbot den Nutzern hilft, moralisch ausgewogenere Entscheidungen zu treffen. Dennoch stellte Uhl fest, dass die Nutzer oft den direkten Ratschlag bevorzugen:
„Die rückfragende KI wird weniger gerne gewählt. Wenn man den Leuten die Wahl lässt, dann wollen sie lieber direkten Ratschlag bekommen.“
Um die Nutzung attraktiver zu gestalten, soll in Zukunft ein ansprechendes Design entwickelt werden.
Fachleute und ihre Skepsis gegenüber KI
Während private Nutzer oft schnell Vertrauen in Künstliche Intelligenz fassen, zeigen sich Fachleute, insbesondere im medizinischen Bereich, häufig skeptisch. Obwohl KI-Systeme in der Lage sind, Röntgenbilder schnell und zuverlässig auszuwerten, haben viele Mediziner Schwierigkeiten, sich auf diese Technologie einzulassen. Eine Studie hat ergeben, dass Experten, die viel Wissen haben, KI-Analysen oft unterschätzen, obwohl diese präziser sind. Uhl schlägt vor, dass eine neue KI, die ihre Unsicherheit offenlegt, dazu beitragen könnte, das Vertrauen in ihre Empfehlungen zu stärken:
„Wenn das System seine Unsicherheit offenlegt, dann kann es auch dazu führen, dass der Empfänger dem Rat stärker vertraut, wenn es beispielsweise sagt, ich bin mir bei dieser Klassifikation zu 90 Prozent sicher.“
Im kommenden Jahr sollen Fachleute aus der Medizin die Möglichkeit haben, dieses neue KI-System zu testen.
Quellen: tagesschau
