Evolution ohne uns?!

1

Keinen Post mehr verpassen? Folge uns auf Facebook oder Twitter!

Massenüberwachung, ermöglicht durch Big Data und ausgewertet durch Künstliche Intelligenz. Wie sehr haben wir uns schon abhängig gemacht von KI und wohin führt das alles? In unserer Rezension über Jay Tucks Evolution ohne uns? gehen wir diesen Fragen nach.

„Wir sind zu doof dafür“ (10) Das ist der erste Satz des Buches von Jay Tuck. Dieser erste Satz deutet auf den Pessimismus hin, der durch Tucks Buch ausgelöst werden kann. In Evolution ohne uns. Wird Künstliche Intelligenz uns töten? untersucht Tuck auf knapp 300 Seiten bzw. 6 Kapiteln die Gefahr, die von Künstlicher Intelligenz ausgeht bzw. ausgehen kann.

Die ersten 3 Kapitel (Gedächtnis, Bewaffnung, Inventar) setzen sich mit den faktischen Gegebenheiten auseinander und versuchen aufzuzeigen, wie Big Data die Grundlage für Massenüberwachung bildet. Dabei ist Massenüberwachung nicht nur als Observierung des öffentlichen Raumes durch den Staat zu verstehen, sondern auch als Sammlung aller möglichen Daten über jeden Einzelnen durch Unternehmen. Werden beide Quellen kombiniert, entsteht ein Überwachungsnetz, dass Aussagen über jede einzelne Person treffen kann, blitzschnell und automatisiert. Big Data bildet dabei die Grundlage für das Funktionieren von künstlicher Intelligenz.

Mit den Kapiteln Abwehr, Intelligenz und Schutz beschreibt Tuck die Versuche, Anwendungsgebiete von Künstlicher Intelligenz und Big Data einzuschränken (Stichwort: Datenschutz). Am Ende sondiert er Abwehrmechanismen, gegen die Entstehung einer solchen Künstlichen Intelligenz. Dabei zeigt Tuck auf, welche Initiativen heutige IT-Wissenschaftler und KI-Forscher schon initiiert haben, da sie das Gefahrenpotential durch KI mit dem der Atombombe vergleichen.

Das Buch wirft wichtige Fragen auf. Es wird nicht nur über die Probleme von Big Data und Massenüberwachung gesprochen, sondern es verbindet auch unseren heutigen Ist-Stand mit der nahen Möglichkeit, dass eine Künstliche Lebensform auf Daten über uns aus Überwachungskameras, Kundenkarten und weiteren Datenbanken zugreift. Diese Informationen könnten dann auch gegen uns verwendet werden. Insbesondere wenn diese Informationen einzelnen Menschen zugeordnet werden können und KI somit Gewohnheiten, Geheimnisse und Schwächen kennt. Menschen werden dadurch erpressbar und vor allem angreifbar. Beispiele sind Herzschrittmacher, seltene Krankheiten, Allergien, aber auch computerisierte Fahrzeuge mit denen wir uns fortbewegen. Die Szenarien suggerieren: Alles kann zu einer tödlichen Bedrohung werden. Offen bleibt, wie wahrscheinlich das ist. Tuck schildert einige Beispiele, wie schnell ein scheinbar klarer Auftrag für eine KI in Konflikt mit menschlichen Bedürfnissen geraten kann.

Sollte eine Künstliche Intelligenz für eine Stadt den Auftrag erhalten, Wasser zu sparen, kann es schnell dazu kommen, dass Hobbygärtner von der Wasserversorgung abgeschnitten werden, da diese nicht effizient genug arbeiten. D.h. die Maßstäbe mit denen eine KI rechnet sind andere. Für Hobbygärtner steht nun mal das Hobby, der Spaß und das Gedeihen ihrer Pflanzen im Vordergrund. Für die KI jedoch, gemäß ihrer Programmierung, nur das nützliche und effektive Ausnutzen des vorhanden Wassers. In einer Kosten-Nutzen-Kalkulation, die die Emotionen der Hobbygärtner außen vor lässt, bleibt nur der Schluss, dass diese Menschen Wasser verschwenden und somit muss ihnen das Wasser abgestellt werden. Ein solches Szenario zeigt im Kleinen, wie schnell Konflikte auftreten könnten.

Offengelegt werden in diesem Buch ebenfalls die Schwachstellen in Bereichen wie Smart Home, Medizin oder dem Automobil. Herzschrittmacher und Insulinpumpen sind, sobald vernetzt, hackbar und können zum Töten der Träger missbraucht werden. (268) Autos können schon heute gehackt und somit übernommen werden. (266/7) Technisch möglich ist das alles schon, sollte also die KI bei ihrer Programmdurchführung gestört werden, könnte sie zu solchen Lösungen greifen.

Es ist ein spannendes Buch, besonders an den Stellen, an denen reportagenhaft geschildert und faktenbezogen erzählt wird. Leider gibt es immer wieder Stellen mit Phrasen und viel Pathos: „Künstliche Intelligenz hat weder Hirn noch Herz.“ (193), „Vielleicht ist die allerbeste Waffe im Kampf gegen die Künstliche Intelligenz – wir.“ (289). Beim Lesen fällt auf, dass das Buch in einem leichten, fast reißerischen Stil geschrieben ist. Dieser Stil führt beim Lesen immer wieder zu Irritationen. Doch der Zweck des Stils ist deutlich: Maximale Verständlichkeit.

Die politischen Implikationen werden auch andiskutiert: Dabei geht es um Predictive Policing und Massenüberwachung. Bei letzterer können einzelne Personen identifiziert und über unterschiedliche Systeme in der realen Welt verfolgt werden. Es geht ebenfalls um Militärtechnologie, autonome Drohnen, die die Kill-Entscheidung selbst treffen und natürlich um das totalitäre Potential einer entwickelten Künstlichen Intelligenz. So schließt das Buch mit Berichten über Wissenschaftler, die vor ihrem eigenen Forschungsfeld warnen. Sie möchten nicht bereuen müssen, wie Robert Oppenheimer nach den Abwürfen der Atombomben über Hiroshima und Nagasaki; die IT-Forscher möchten ihre Ergebnisse von Anfang an einhegen. Und, so endet das Buch: „Schaffen wir es nicht [gemeint ist die Limitierung der Super-KI, sodass die Menschen nicht vernichtet werden, S.K.], gilt der erste Satz in diesem Buch.“ (291) – Sind wir zu doof? Wir werden es sehen.

Insgesamt ist es aber schwierig eine Gesamtbewertung vorzunehmen. Ein schöneres Leseerlebnis versagten mir der teilweise reißerische Umgang mit dem Thema und das simple Layout des Buches. Aber: Das Thema ist spannend, das Argument entfaltet sich ausgehend von unserer heutigen Situation und anhand von Aussagen von KI-Experten. Die verständliche Sprache soll es möglichst vielen Menschen erlauben, für dieses Thema sensibilisiert zu werden und in das Thema schnell einsteigen zu können. Somit kann ich das Buch also durchaus empfehlen – zumindest als leichter Einstieg ins Thema.


Wir haben mit dem Autor des Buches ein Interview geführt. Es wird in Kürze auf undogmatisch.net erscheinen. Dabei wird es um Überwachung, Möglichkeiten von KI und die gesellschaftlichen Implikationen gehen, die uns bevorstehen.

Evolution-ohne-uns_Cover-Layout.indd
© Plassen Verlag, Verwendung genehmigt.

Jay Tuck: Evolution ohne uns. Wird Künstliche Intelligenz uns töten?
Blassen Verlag, 2016, 336 Seiten, 19,99 €.

Ein Rezensionsexemplar wurde uns vom Verlag zur Verfügung gestellt.
Ebenso möchten wir uns bei Quadriga Communications bedanken, die uns dabei betreut haben.

Verwendung des Beitragsbildes im Rahmen dieser Besprechung freigegeben von Autor/Verlag.

1 KOMMENTAR

Kommentar verfassen