Oft bekommt man ja die großen Veränderungen gar nicht mit, weil sie sich zunächst ganz unscheinbar vollziehen. Zum Beispiel bei Google. Ohne offizielle Ankündigung tilgte das Unternehmen irgendwann Ende April oder Anfang Mai das Credo "Don't be evil" aus den offiziellen Konzern-Verhaltensregeln. Stattdessen gibt es dort jetzt belanglose Sätze über hohe Standards und Prinzipien und Respekt vor den eigenen Kunden zu lesen.
Wie es aussehen könnte, wenn sowohl der moralische Kompass als auch der eben erwähnte Respekt abhandenkommt, konnte man in der vergangenen Woche beobachten. Da tauchte auf der Tech-Website The Verge ein Google-internes Video auf, in dem spekuliert wird, wie durch permanentes Datensammeln und gleichzeitigen Einsatz von künstlicher Intelligenz (KI) die individuellen Probleme der Menschen, aber gleich auch die großen Herausforderungen der gesamten Spezies gelöst werden können.
Das Video mit dem Titel "The Selfish Ledger" startet mit einer Exkursion über evolutionsbiologische Theorien und stellt die Frage, ob sich diese nicht auch in die digitale Sphäre übersetzen lassen. Begleitet von beschwichtigend tröpfelnden Klavierklängen und den üblichen weichgezeichneten Motiven aus den Stockfoto-Archiven wird da eine Vision der Zukunft ausgebreitet, die einen schaudern lässt. Der Titel ist eine Anspielung an Richard Dawkins' Buch "Das egoistische Gen". Ledger ist dabei eines dieser Wörter, die sich kaum wörtlich übersetzen lassen, von denen aber jeder weiß, was sie so ungefähr bedeuten. Geschäftsbuch ist eine ebenso valide Übersetzung wie auch persönliches Journal. Dieser Ledger jedenfalls soll nicht weniger sein als ein Buch des Lebens. Oder wie es im Google-Video heißt, "eine beständige Repräsentation dessen, wer wir sind, eine verschlüsselte Version unseres Selbst", bestehend aus sämtlichen "Handlungen, Entscheidungen, Vorlieben, Aufenthaltsorten und Beziehungen".
Die SZ-Redaktion hat diesen Artikel mit einem Inhalt von Youtube angereichert
Ausgehend von dieser Informations-DNA könnte der Nutzer dann Lebensziele definieren, zu deren Umsetzung das Smartphone die Lösungsansätze parat hat und hilft, das große Ganze auf quantifizierbare Mikro-Aufgaben herunterzubrechen. Google, hilf mir, mich gesünder zu ernähren. Oder die Umwelt zu schützen. Oder die lokale Wirtschaft zu stärken. Geht es nach der Vision von Google, würden die Tech-Konzerne also nicht mehr nur bestimmen, was wir auf unseren Bildschirmen zu sehen bekommen, sondern auch, wie wir uns vor ihnen verhalten. Was kann ich wissen? Was soll ich tun? Was darf ich hoffen? Google hat auf all das die genau maßgeschneiderten Antworten.
Die KI flüstert dem Menschen Dinge ein
Das System trachtet auch aktiv danach, die letzten Wissenslücken über seinen Nutzer zu schließen. In einer Szene des Videos geht es darum, dass die KI dem Menschen empfiehlt, eine Waage zu kaufen, damit dessen Gewicht und somit die Erfolge oder ein Stück weit auch die Gesundheit getrackt werden können. Dann wird berechnet, mit welcher Wahrscheinlichkeit welches Produkt am attraktivsten ist und am ehesten zu einer konsumpositiven Handlung führt. Es ergibt sich also ein geschlossener Kreislauf. Je mehr Informationen vorhanden sind, desto besser und treffsicherer fallen die Entscheidungen aus, die der Ledger für seinen Nutzer trifft, und desto häufiger wird dieser auch auf die Einflüsterungen der KI hören. Der Nutzer degeneriert zur fernsteuerbaren Drohne. Kein Wunder, dass das Video auch Bilder aus einem Bienenstock zeigt.
So weit, so paternalistisch. Unter dem Motto "Einer für alle, alle für einen" wird dann aber noch eine Schippe "Schöne neue Welt" draufgelegt. Was wäre denn etwa, mirakelt der Sprecher im Video, wenn die im Ledger gespeicherten Informationen genau wie genetische Eigenschaften von einer Generation zur nächsten weitergegeben werden könnten? In Googles Gedankenspiel könnten Nutzer also von den Erfahrungen und Fähigkeiten ihrer Vorgänger profitieren, indem "immer genauere Vorhersagen über die Entscheidungen und zukünftige Verhaltensweisen getroffen werden können". Die quantifizierten Erfolge oder Misserfolge unserer Vorfahren sollen allen anderen Menschen zugutekommen, um "speziesweite Probleme" angehen zu können: Keine Krankheiten mehr, keine Depressionen und keine Armut mehr, aber halt auch kein freier Wille. Der Nutzer wird vom Eigentümer seiner persönlichen Informationen zum vorübergehenden Träger degradiert.
Google beeilte sich nach der Veröffentlichung des Videos klarzustellen, dass sein Inhalt pure Spekulation sei und ja sogar darauf ausgelegt zu verstören. Nur so könne man schließlich Debatten über künstliche Intelligenz und Datensicherheit führen. Die Idee des Selfish Ledger habe jedenfalls "nichts mit bestehenden oder zukünftigen Produkten zu tun". Dabei ist es ja überhaupt kein disruptiver Gedanke, der da im Video durchgespielt wird. Sondern nur die logische Weiterentwicklung dessen, was wir jeden Tag ohnehin schon im Umgang mit den Produkten aus dem Silicon Valley erleben.
IT-Konzerne haben viel Übung im reflexhaften Dementieren
Dieser implizite Verdacht der Unmündigkeit des Nutzers ist ja auch geradezu beleidigend eindimensional. Sind nur genügend Daten vorhanden, kennt das System den Menschen besser als er sich selbst. Facebook glaubt zu wissen, mit wem wir uns vernetzen sollten. Googles Foto-App markiert die vermeintlichen Highlights unseres Lebens, die gezielten Anzeigen der großen IT-Konzerne kennen unsere vermeintlichen Bedürfnisse. Neu ist nur, dass der KI-induzierte Behaviorismus durch den Ledger so gar nicht zu den neoliberalen Produkten passen will, die sonst so in den Moonshot-Fabriken, Thinktanks und all den anderen ideologischen Giftküchen des Silicon Valley fabriziert werden. Nicht mehr der Markt wird es schon regeln, sondern die Maschine.
Und überhaupt: Stimmt es wirklich, dass das Video keinen Bezug zu aktuellen oder zukünftigen Produkten hat? Die Tech-Konzerne aus dem Silicon Valley haben ja in letzter Zeit viel Übung im reflexhaften Dementieren von unliebsamen Nachrichten bekommen, und blickt man in die Patentanmeldungen von Google, finden sich in der Tat diverse Einreichungen, die sich schon sehr nach den im Video abgehandelten Dystopien anhören. "Detecting and correcting potential errors in user behaviour" heißt es da etwa oder auch "Guided purchasing via smartphone". In der neuesten Version des konzerneigenen Betriebssystems Android, die diesen Sommer erscheinen soll, gibt es jedenfalls schon diverse Neuerungen, die den Selfish Ledger vorwegnehmen.
Diese sogenannten Actions und Slices sollen die Handlungen des Nutzers antizipieren und ihm davon ausgehend mögliche Optionen vorschlagen. Du musst zu einer Verabredung und es beginnt zu regnen? Bestell ein Uber-Taxi, so viel wird es kosten, so lange dauert die Fahrzeit. Unsere Geräte werden schon bald besser verstehen, wie wir mit ihnen leben, und sich entsprechend anpassen, anstatt so zu handeln, wie wir sie konfiguriert haben. Wer steuert hier eigentlich noch wen? Noch ist der Unterschied zwischen Vision und Wirklichkeit, dass sich die Systeme unserem Leben anpassen. Wann wird es so weit sein, dass sich dieses Verhältnis umgekehrt?
