Rostam J. Neuwirth, Professor für Recht und Leiter der Abteilung für Global Legal Studies an der Rechtswissenschaftlichen Fakultät der Universität von Macau, Macau – China, warnt in seinem Buch „The EU Artificial Intelligence Act“ vor den Gefahren subliminaler KI-Manipulation.
Er vermutet, dass KI in Kombination mit einer stetig wachsenden Zahl anderer fortschrittlicher Technologien, wie etwa Hirn-Computer-Schnittstellen (Brain-Computer Interfaces, BCI), funktionelle Magnetresonanztomographie, Big Data, das Internet der Dinge, Blockchain, Robotik oder Eye-Tracking-Technologien und viele mehr, in der Lage ist, nicht nur die Gedanken der Benutzer zu manipulieren, sondern auch deren Verhalten maßgebend zu beeinflussen. Diese real existierenden Möglichkeiten der Manipulation von Gedanken und Verhalten wird seiner Meinung nach in Zukunft nur zunehmen, denn bereits heute hat man damit sprachlich und technisch die Programmierung von Computern auf die Programmierung von Menschen erweitert.
In Europa und anderorts führten solche Bedenken letztlich ab 1989 zu einem allgemeinem Verbot subliminaler Werbung im Fernsehen. In den neunziger Jahren machten Fragen der subliminalen Manipulation noch einmal Schlagzeilen in den USA im Zusammenhang mit mehreren Gerichtsprozessen gegen Rockmusiker, deren Songs durch Rückwärtsbotschaften (backward masking) mit subliminalen Nachrichten für den Freitod mehrerer Jugendlicher verantwortlich gewesen sein sollen.
Heute bestehen nach Meinung Neuwirths hinsichtlich der Effizienz und den realen Auswirkungen subliminaler Techniken wissenschaftlich keine Zweifel mehr. Im Bereich des Neuromarketing formuliert man die Frage nicht ob, sondern nur mehr wie effizient diese unterschwelligen Methoden sind. Der heutige Stand der Technik ist am besten durch sogenannte Gehirn-Spionagesoftware (brain spyware) veranschaulicht. Mittels subliminaler Techniken und eines maschinellen Lernmodells erlaubt diese es, im Gehirn auf private Daten, wie Bankinformationen, PIN-Codes, Wohnort oder Geburtsdatum, zuzugreifen.
Auch sogenannte „dunkle Muster“ (dark patterns), mit denen die manipulative Gestaltung von Webseiten und Social Media Posts bezeichnet wird, verwenden nicht erkennbare irreführende Elemente, um Benutzer durch verschiedene Methoden zu manipulieren, wie z. B. durch verschleierte Werbung, Angstauslösung, oder „Bait and Switch“ (locken und wechseln). Ebenso werden Deep Fakes oder die Kombination von gezielter Werbung mit versteckten Algorithmen, die von Suchmaschinen verwendet werden, eingesetzt, nicht nur um den Erfolg von Unternehmen, sondern auch den Ausgang von Wahlen zu bestimmen, wie der Cambridge-Analytica-Skandal enthüllte. Im Hinblick auf die Manipulation der Gedanken und des Geistes ist es daher notwendig, die Frage der entsprechenden Sinnesorgane zu klären. Gemäß der Psychophysik gibt es jedoch keine absolute Schwelle für die subliminale Wahrnehmung, weil die Schwellen für einen bestimmten Reiz sowohl zwischen verschiedenen Personen wie auch innerhalb einer Person variieren.
Gleichzeitig setzen seiner Meinung nach viele KI-Systeme manipulative Techniken ein, die sowohl unterhalb (subliminal) wie auch oberhalb (supraliminal) der Bewusstseinsschwelle wirken. In diesem Fall sollte das besagte Verbot von KI-Systemen daher vom „Einsatz subliminaler Techniken“ auf „supraliminale Techniken“ ausgedehnt werden, oder durch den Begriff „transliminale Techniken“ ersetzt werden. Der Grund ist, dass manipulative Reize dynamisch sind und sowohl über wie auch unter der Schwelle der bewussten Wahrnehmung operieren.
Am Beispiel des Begriffs „Sucht durch Design“ (addiction by design) wird nach Ansicht Neuwirths ersichtlich, dass die Intensität und Quantität der Reize mit der zukünftigen Integration der Sinne bei der sogenannten „erweiterten und virtuellen Realität“ (augmented und virtual reality) weiter zunehmen werden, wie es Facebook durch das Konzept des Metaversum propagiert. Aus diesem Grund ist auch eine breitere Definition der von KI verwendeten manipulativen Techniken gerechtfertigt und notwendig, da der Wahrnehmungsprozess des Lebens alle Sinne inkludiert und somit eine multisensorische Erfahrung darstellt. Aus dem gleichen Grund ist die traditionelle Erforschung der Sinne, die diese isoliert betrachtet und ihre Anzahl auf fünf Sinne begrenzt hat, mittlerweile klar obsolet.
Literatur
https://science.orf.at/stories/3215123 (22-11-22)
Nachricht ::: Soziale Robotik ::: Impressum
Datenschutzerklärung ::: © Benjamin Stangl :::