KI in Krisen: cep warnt vor unbemerkten Risiken

Künstliche Intelligenz (KI) durchdringt immer tiefer den Lebensalltag

Berlin/Freiburg. Ob zum Schutz vor Kreditkartenbetrug, zum Erstellen von Klimamodellen oder zur Verteilung von Polizeikräften: Künstliche Intelligenz (KI) durchdringt immer tiefer den Lebensalltag. Die dafür notwendigen Daten stammen zumeist aus Phasen relativer Stabilität, die in Krisenzeiten nicht ohne weiteres anwendbar sind. Das Centrum für Europäische Politik (cep) sieht darin ein unterschätztes Systemrisiko – und fordert Regeln.

"Wird mein Roboter mit mir alt?" Foto im Futurium in Berlin 20222 aufgenommen
Aufgenommen im Futurium, Berlin 2022, Foto: Ria Hinken

„Die Nutzung von KI kann in Krisen sehr nützlich sein. Mit normalen Daten optimierte Algorithmen können dann jedoch unbewusst zu falschen Entscheidungen führen. Es braucht daher gerade in zunehmend automatisierten Umgebungen risikosensitive Regeln für KI in Krisen”, sagt cep-Digitalexperte Anselm Küsters, der den jüngsten Regulierungsansatz der Kommission untersucht hat.

Als ein Beispiel nennt Küsters Algorithmen zur Berechnung des Risikos von Kreditkartenbetrug während der Corona-Pandemie. „Plötzlich kauften viele nur noch im Internet ein. KI-basierte Tools waren davon überfordert und blockierten unnötig viele Transaktionen.” Ein risikobasierter Ansatz, wie er im EU-KI-Gesetz vorgesehen sei, reiche daher möglicherweise nicht aus, da man das dynamische Risiko eines krisengestörten Systems, insbesondere in sich dramatisch verändernden Umgebungen, nicht kennen könne. „Akzeptiert man jedoch den risikobasierten Ansatz des aktuellen Entwurfs, könnten die in Zeiten von Polykrisen auftretenden Gefahren dadurch berücksichtigt werden, dass ein höherer Anteil von KI-gesteuerten Systemen als krisensensitiv und somit als hoch riskant eingestuft wird”, empfiehlt der cep-Experte. Entscheidend seien zudem regelmäßig mit ausreichend Personal und technischen Ressourcen ausgeführte KI-Audits – ohne Startups zu überfordern.Laut Küsters müssten KI-begeisterte Politiker, Unternehmer und Journalisten das Schadenspotenzial von KI in Polykrisen besser berücksichtigen.

cepAdhoc: Systemrisiko KI in der Polykrise

Über Redaktion

Impressum Pflichtangaben gemäß § 5 TMG Inhaltlich verantwortlich ist: Ria Hinken Tel. +49 (0) 761 | 2852 7905 Mail: rh(at)konzepte-pr.de Umsatzsteuer-ID DE185565169 Verantwortlich i. S. d. P. Ria Hinken Wintererstr. 7, D-79104 Freiburg Mail: rh(at)konzepte-pr.de
Dieser Beitrag wurde unter Digitalisierung, Gesellschaft, Politik, Pressemitteilungen abgelegt und mit , , , verschlagwortet. Setze ein Lesezeichen auf den Permalink.