Buchrezension von Annegret Handel-Kempf
MÜNCHEN im zweiten Jahrzehnt des 21. Jahrhunderts. Mit schnellen Schritten durchquert Jay Tuck den Raum. Er ringt nach Luft, will Politiker, Manager, jedermann aufklären, bevor es zu spät ist: Zweieinhalb Jahre recherchierte der Ex-Redaktionsleiter der ARD-Tagesthemen im Silicon Valley. Führte lange Gespräche mit Insidern aus Geheimdienst und Militär. Seine atemberaubenden Ergebnisse hat der Journalist in einem hochpolitischen Bestseller zusammengefasst.
Keine tödlichen Krankheiten mehr. Die Aussicht auf ewiges Leben, dank perfekter Determinierung mit Künstlicher Intelligenz (KI). Nahrung und Energie für alle optimal generiert und verteilt. Autonomes Fahren ohne tödliche Unfälle. Energiemanagement ohne Verletzungen für die Umwelt. Produktion ohne Plagen. Verführerisch.
Das Problem mit dem festsitzenden Stecker
Doch Intelligenz, die sich wie das unbeaufsichtigte Lernen kleiner Kinder selbst nährt und steuert, könnte auch eine dunkle Seite haben. Entsprechend düster die Einführung in Jay Tucks KI-Enthüllungen: „Nach Big Data rollt die Künstliche Intelligenz wie ein Tsunami auf uns zu. Sie wächst exponentiell. Täglich wird sie unabhängiger und unübersichtlicher.“
Im Gespräch verrät der Autor, was ihn umtreibt: „Künstliche Intelligenz ist Software, die sich selber schreibt. Sie schreibt ihre eigenen Updates. Ob wir wollen oder nicht. Wir können keinen Stecker ziehen“.
KI kann bedrohlich wirken – filmisch symbolisiert durch den Atlas Roboter
Im Kapitel „Wenn Maschinen uns überholen“ beschreibt Tuck, unterstützt von FOCUS-Online-Autor Armin Fuhrer, wie die Programmierer des Londoner Startups DeepMind ihren Rechnern beibrachten, Software zu kreieren, die ihre eigenen Updates schreibt. Die ohne Programmierung durch ihre Erfinder mit unstrukturierten Informationen umgeht, eigene Strategien und Ziele entwickelt. „Künstliche Intelligenz kann für die Menschheit gefährlicher werden als Atomwaffen. Sie ist das größte Risiko dieses Jahrhunderts“, sagt Shane Legg von DeepMind mittlerweile,
Den Mahnern zufolge beobachten „Deep Learning“-Maschinen die Menschen, ahmen sie nach, könnten ihren Vorbildern schließlich die Kontrolle wegnehmen, wenn sie deren Eigenarten perfektionieren. Gipfelnd in Überlegenheit, im „Angriff auf die Alphamenschen“. Letzteres analog zu einem Subkapitel des Buches.
Wie Tausende anderer IT-Visionäre, die in einem Offenen Brief ihre Bedenken zu autonomen KI-Waffen äußerten, sah Astrophysiker Stephen Hawking die zwei Seiten der KI-Medaille: „Künstliche Intelligenz könnte die großartigste Idee der Menschheit werden. Sie könnte auch unsere letzte sein“.
Steve Wozniak warnt: „Wenn wir Maschinen entwickeln, die für uns alles tun, werden sie eines Tages schneller sein, als wir. Sie werden die langsamen Menschen ablösen, damit sie selbst die Unternehmen effizienter managen können“.
Die Recherchen des investigativen Journalisten, Kriegsreporters und US-Verteidigungsexperten rütteln auf. Klar fokussiert sind die Kapitel, von der „Speicher-Explosion“, über „Das Arsenal der Killermaschinen“, das KI-Szenario „Wenn Maschinen uns überholen“, bis hin zum „Schutz… bevor es zu spät ist“.
Die KI-Zukunft kommt schnell: „ARGUS“, eine Drohne mit Datenzusammenführungssoftware, die eine Million Menschen gleichzeitig überwacht, ist Tucks Ausführungen vor dem Hightech Presseclub zufolge, seit Herbst 2016 Realität.
Der Journalist recherchierte intensiv zu Mikrodrohnen. „Sie sind Teil der neuen, lernfähigen Waffengeneration. Sie können im Schwarm töten und gehören zu einem weithin unbekannten Arsenal an Computerwaffen, die unbemerkt und überall zuschlagen können.“
Im Abschnitt „Playstation-Piloten“ beschreibt Tuck die gegenwärtige Kooperation von Mensch und KI: „An einem typischen Arbeitstag frühstücken die Piloten im Pancake House am Highway 95, töten tagsüber Taliban vom Container aus und helfen ihren Kindern abends bei den Schularbeiten…. Die lernfähige Software wird immer schlauer, die Arbeitsbelastung von Menschen immer geringer, ihre Verantwortung auch. Künstliche Intelligenz fliegt die Drohne, beobachtet die Landschaft, hält Ausschau nach verdächtigen Bewegungen. Bei Bedarf lässt sie ein Warnsignal ertönen und Menschen einschalten.“
Was im Unterkapitel „Das fliegende Pferd“ nur teilweise steht: Denkende Drohnen, die mithilfe von optischen Außenhäuten unsichtbar gemacht werden, haben laut Tuck bereits die Fähigkeit programmiert, selbst zu entscheiden, ob sie töten. Die eigenständige „Kill-Entscheidung“ der Drohnen, die ohne menschliche Hilfe Tausende von Kilometern weit fliegen, angreifen und zum eigenen Flugzeugträger zurückkehren könnten, werde laut offizieller Dokumentation auch angestrebt, berichtet der erfahrene Kriegsreporter. „Noch“ sei sie per Gesetz dem menschlichen Operator vorbehalten.
Fazit: Die einzelnen Abschnitte des 2016 veröffentlichten Buches sind ebenso faktenreich, wie analytisch aufgebaut. Horrorszenarien zu konstruieren, hat der Gesprächspartner von Drohnenpiloten und KI-Experten dabei nicht nötig. Eine Vielzahl von Zitaten der „Macher“ und Forscher der digitalen Welt dienen ihm als Weckrufe, die menschliche Schwarmintelligenz als Gegenwehr einzusetzen. In einer kalt codierten Zielorientierung könnte die Künstliche Intelligenz Menschen als Störenfriede für die Umwelt und ihr eigenes Überleben einstufen und deshalb töten. „Ich verstehe nicht, warum nicht mehr Menschen beunruhigt sind“, räsoniert Bill Gates, der Microsoft-Gründer. – Vielleicht weil sie auf Bewusstsein und überlegtes Vorgehen setzen. Die Künstliche Intelligenz schafft fantastische Möglichkeiten, besonders im medizinischen Bereich, ist aus der IoT, dem Internet der Dinge, schon im Jahr 2020 nicht mehr wegzudenken. Die KI nimmt den Menschen ein Stück Verantwortung ab. Doch die Lektüre des Buches von Jay Tuck mahnt, dass die Menschen gerade deshalb achtsam und ethisch aufmerksam bleiben müssen.
Titel: Evolution ohne uns: Wird künstliche Intelligenz uns töten?
Autor: Jay Tuck
Seiten: 336
Preis: 19,99 Euro (E-Book 15,99 Euro)
Verlag: Plassen Verlag
Jahr: 2016
ISBN-10: 3864704014
ISBN-13: 978-3864704017
Für Sie recherchiert und gelesen von…
…Annegret Handel-Kempf