Neun europäische Forscher befürchten, dass Künstliche Intelligenz das Verhalten der Nutzer "in großem Stil" steuern und sie in "digitale Sklaven" verwandeln könnte. Sie fordern Gegenmaßnahmen.

Eine Gruppe Wissenschaftlern um Gerd Gigerenzer, Direktor am Max­ Planck­ Institut für Bildungsforschung, und Dirk Helbing, Professor für Computational Social Science der ETH Zürich, warnt in einem "Digital-Manifest" vor einem Kontrollverlust durch ausgefeilte Algorithmen und Künstliche Intelligenz.
Totalitäre Gesellschaft

Die fortschreitende Digitalisierung führe zu einer fremdgesteuerten und "totalitären" Gesellschaft, mahnen die Forscher. Insbesondere Firmen sammelten ständig mehr Daten über ihre Kunden, heißt es in dem Papier, das im Wissenschaftsportal "Spektrum" erschienen ist. Algorithmen werteten diese "Big Data"-Bestände automatisch aus, wobei sie die Nutzer auch manipulieren könnten.

Schon heute wüssten "Algorithmen, was wir tun, was wir denken und wie wir uns fühlen ­ vielleicht sogar besser als unsere Freunde und unsere Familie, ja als wir selbst", warnen die Forscher. Sie warnen vor "digitaler Verhaltenssteuerung im großen Stil". Bei Wahlen wäre es möglich, sich durch Data Mining und "Anstupsen" von Unentschlossenen deren Stimmen zu sichern. Damit seien die Demokratie und Bürgerrechte in Gefahr.
Kriminelle und Terroristen

Auch würden Kriminelle, Terroristen oder Extremisten den "digitalen Zauberstab" früher oder später unter ihre Kontrolle bringen, heißt es in dem düsteren Szenario. Fast alle Unternehmen und Institutionen seien schon gehackt worden. Hinzu komme ein weiteres Problem, wenn ausreichende Transparenz und demokratische Kontrolle fehlten: "Die Aushöhlung des Systems von innen". Suchalgorithmen und Empfehlungssysteme ließen sich nämlich leicht beeinflussen.

"Würde die Fernsteuerung unseres Verhaltens perfekt funktionieren, wären wir im Grunde digitale Sklaven, denn wir würden nur noch fremde Entscheidungen ausführen", schlagen die Wissenschaftler Alarm vor einer hoch entwickelten Künstlichen Intelligenz (KI). Eine solche könnte prinzipiell sogar gottgleiches Wissen über die Menschen erlangen. Die Autoren werben daher etwa dafür, Informationssysteme zu dezentralisieren und das Recht auf informationelle Selbstbestimmung der Menschen abzusichern.

Unter den Verfassern ist auch die Unternehmerin Yvonne Hofstetter, die sich durch mehrere Veröffentlichungen bereits einen Namen als "Digital-Kassandra" gemacht hat. Zuvor hatten sich im Juli zahlreiche KI-Forscher und Tech-Prominente hauptsächlich aus den USA dafür ausgesprochen, autonome Waffensysteme und "Killer-Roboter" global zu ächten.