Ob es um die Suche nach neuen Werkstoffen, das Finden von betrügerischen Abrechnungen oder die autonome Autofahrt geht: Tausende von Anwendungsfällen quer durch alle Branchen zeigen bereits, welches geballte Potenzial in KI steckt. Einige der Entscheidungen auf Basis intelligenter Algorithmen beeinflussen das Leben von Menschen auf unmittelbare Art. Beispielsweise wenn sich die Empfehlung einer Assistenz-Software auf die Personalauswahl auswirkt. Oder dafür sorgt, dass eine Bank einen Kreditantrag ablehnt. In diesen Fällen müssen die Verantwortlichen Licht ins Dunkel der KI-Entscheidungen bringen. Das reicht von der Herkunft und Charakteristika der Trainingsdaten, die eine KI nutzt, über die Durchschaubarkeit und Verständlichkeit des Algorithmus bis hin zum Einhalten regulatorischer Vorgaben sowie ethischer Grundwerte. Eine Transparenz von KI fordert auch der EU Artificial Intelligence Act von April 2021. Dieser besagt, dass Nutzerinnen und Nutzer ein Recht darauf haben, informiert zu werden, mit welcher Art von KI sie interagieren.
Großes Vertrauen in KI
Die Mehrheit hat hohe Erwartungen an die Anwendung. So erhoffen sich 88%, durch den Einsatz von KI bessere Entscheidungen treffen zu können. Genauso optimistisch sind die Teilnehmenden der Studie bei der Frage, wie Anwendende zu der Technologie stehen. 61% sind davon überzeugt, dass Verbraucherinnen und Verbraucher KI als grundlegend vertrauenswürdig einstufen.
Regulation erwünscht
Trotzdem finden 80% der Befragten, KI sollte grundsätzlich nicht ohne menschliche Kontrolle eingesetzt werden. 54% sind zudem der Meinung, dass das Nutzen von KI-Technologien stärker reguliert werden sollte. Im Banken- und Finanzdienstleisterumfeld unterstützen sogar 75% diese Forderung. 70% aller Befragten halten darüber hinaus das Etablieren eines internen KI-Ethikgremiums für sinnvoll. Besonders populär ist die Idee eines eigenen Expertinnen- und Expertenrats im Gesundheitswesen (87%) und in der öffentlichen Verwaltung (83%).
KI am Arbeitsplatz
Aus Sicht der Studienteilnehmenden müssen Unternehmen die Mitarbeitenden stärker in KI-Projekte einbeziehen. Nur so entwickeln sie das nötige Vertrauen in die Technologie. 70% der Befragten sehen eine große Herausforderung darin, die eigene Belegschaft auf die Zusammenarbeit mit KI-Anwendungen vorzubereiten. Besonders kritisch bewerten die Studienteilnehmenden aus der Automotive-Branche die Situation: Hier befürchten 91%, dass es schwierig wird, die eigenen Teams von der Mensch-Maschine-Kooperation zu überzeugen.
Nutzer wünschen sich strenge Sicherheitsregeln und Kontrolle ethischer Standards
Die Analyse des IT-Dienstleisters adesso gibt einen erstaunlich klaren Einblick, wie und wohin sich die KI-Regulierung nach Ansicht der befragten Expertinnen und Experten entwickeln soll. Zwar unterstellen die Teilnehmenden den Verbraucherinnen und Verbrauchern – ob nun berechtigt oder nicht – einen großen Vertrauensvorschuss gegenüber KI. Trotzdem sehen sie die Notwendigkeit, strenge Sicherheitsregeln umzusetzen und die Einhaltung ethischer Standards zu kontrollieren, erklären die Studienautoren. Das sei auch dringend notwendig. Um der Technologie zu vertrauen, müssten die Menschen genau wissen und verstehen, was KI sei, was sie tue und welche Auswirkungen die gefällten Entscheidungen hätten. Unternehmen, die diese Technologie einsetzen, sollten größten Wert darauflegen, dass die eingesetzte KI transparent und vertrauenswürdig arbeitet, so der Rat der Studienautoren.
Die Studie kann hier kostenfrei angefordert werden.
(Pressemitteilung adesso vom 20.09.2022)
