„Big brother is watching you“ – Bundesjustizministerium will „Künstliche Intelligenz“ begrenzen

Das Bundesjustizministerium fordert klare Grenzen für den Einsatz von Künstlicher Intelligenz (KI) auf europäischer Ebene. „Wir müssen festlegen, welche Aspekte von Künstlicher Intelligenz für uns als freiheitliche demokratische Gesellschaft inakzeptabel sind“, zitiert das Handelsblatt den Justizstaatssekretär Christian Kastrop. „Es muss rote Linien beim Einsatz von KI geben.

Beim so genannten „dark pattern“ sieht das Ministerium akuten Handlungsbedarf. „Dark pattern” bezeichnet ein Design für Benutzerschnittstellen. Es ist darauf ausgelegt, einen Nutzer dazu zu bringen, bestimmte Tätigkeiten auszuführen, die dessen Interessen entgegenlaufen. Beispielsweise soll beim Kauf von Produkten eine Cookie-Einwilligung erfolgen, bei der Webseiten-Besucher am ehesten die von den Anbietern gewünschte Auswahl mit dem größtmöglichen Zugriff auf die Nutzerdaten treffen.

Skeptisch sieht der Justizstaatssekretär auch das „Social Scoring“. Das beginne mit auf Algorithmen basierten Kreditwürdigkeitsprüfung und ende bei einem gläsernen Bürger. „Hier können Fehlentscheidungen erhebliche Folgen für Einzelne haben“, erläutert Staatssekretär Kastrop. Auch die biometrische Fernüberwachung (Gesichtserkennung) sieht das Bundesjustizministerium kritisch. Dabei würden Grundrechte unmittelbar tangiert. Solche Anwendungen könnten ganz schnell diskriminieren und zu Ausgrenzung führen.

Strenge Vorgaben soll es für KI-Technik geben, die etwa bei der Energieversorgung, in der Schul- oder Berufsausbildung, der Asylpolitik oder der Strafverfolgung eingesetzt wird. Bevor Systeme in diesen Bereichen eingesetzt werden, soll geklärt sein, dass diskriminierende Ergebnisse „so gering wie möglich” gehalten werden.

In einer im April 2021 vorgelegten KI-Verordnung soll unter anderem der Gebrauch bestimmter Technik untersagt werden. Verboten werden soll, dass Minderjährige zu gefährlichem Verhalten ermuntert werden oder Behörden dadurch die Möglichkeit bekämen, das soziale Verhalten von Bürgerinnen und Bürgern zu bewerten.

Jede Technik hat ihre Vor- und Nachteile. Die Politik ist gut beraten, wenn sie die Menschen intensiv und umfangreich über die Risiken bei der Nutzung der „Künstlichen Intelligenz“ informiert. In diesem Zusammenhang sollte immer die Aussage in Georg Orwells Werk „1984“ in Erinnerung gerufen werden: „Big brother is watching you!


Wenn Ihnen dieser Artikel gefallen hat, unterstützen Sie bitte das Projekt BLAULICHTBLOG mit einer Spende. Per paypal (Kreditkarte) oder mit einer Überweisung auf
DE60 2905 0101 0082 9837 19 (BIC: SBREDE22XXX), Empfänger: BREPRESS UG,
Verw.-Zweck: Spende Blaulichtblog. Vielen Dank!

Kommentar hinterlassen zu "„Big brother is watching you“ – Bundesjustizministerium will „Künstliche Intelligenz“ begrenzen"

Hinterlasse einen Kommentar