Aus dem Tagebuch eines Drachentöters: Skynet Rising. Oder: Gefahren durch KI?

Ich bin durchaus ein technikaffiner Mensch. Ich habe seit früher Kindheit Umgang mit Computern gehabt und auch mit allerhand anderen technischen Geräten. Ein Smartphone habe ich erst seit ca. einem halben Jahr, doch es ist jetzt schon ein integraler Bestandteil meines Lebens. Die Technisierung und Digitalisierung unsrer Gesellschaften schreitet unentwegt voran und es sieht nicht so aus, als würde sich dieser Trend verlangsamen oder umkehren lassen. Auch der Transhumanismus wird immer stärker diskutiert, Biohacking nimmt immer größere Ausmaße an. Künstliche Gliedmaßen und auch Sinnesorgane können immer mehr Menschen helfen und werden immer besser und ausgefeilter. Ich denke es wird in diesem Zuge nur noch eine Frage der Zeit sein, bis die diese künstlichen Körperteile die biologischen Originale überflügeln und auch „gesunde“ Menschen darüber nachdenken werden, ihren Körper damit zu verbessern anstatt nur Verletzungen zu korrigieren. Ich selber könnte mir das durchaus vorstellen, wenn die Zeit kommt.

Auch die Forschung im Bereich der Robotik und der KI können immer größere Fortschritte aufweisen. Erst heute schlug AlphaGo, ein „Programm“ der Google-Tochter DeepMind einen der weltbesten Go-Spieler. Und die Videos von Atlas, dem neusten Roboter von Bosten Dynamics, der sich problemlos über unebenes Gelände bewegen kann und mit Ausfallschritten auf einen Stoß reagiert, gingen viral durch das Netz. Und das sind nur die bekannten und herausragenden Erfolge.

Doch wieder einmal werden in diesem Zusammenhang kritische Stimmen laut. Diese kommen aus unterschiedlichsten Richtungen und sind teilweise sehr überraschend. So berichten der Youtuber Le Floid  und das Vice Magazin darüber, dass viele Personen, die die Videos des gestoßenen und geschubsten Atlas schauten, mit Mitgefühl für diese MASCHINE reagierten. Und ich habe bei mir ähnliche Reaktionen festgestellt. Aus irgendeinem Grund triggert dieses Videos bei mit Mitleid. Atlas wird vermenschlicht, was vielleicht an seiner ähnlichen Anatomie liegt. Und im Bereich der Künstlichen Intelligenzen warnen zum Beispiel jene AlphaGo-Entwickler DeepMind, aber auch andere Technikexperten (u.a. Professoren des MIT sowie IBM und Microsoft Research) vor der Gefahr durch KIs. Sie stellten gemeinsam einen Katalog mit Richtlinien für die sichere KI-Forschung auf. In einem Zeitalter von semi-autonomen Waffensystem und einem Engpass von Dronenpiloten bei der US Airforce, in Zusammenhang mit der Tendenz dazu menschliche Arbeitskraft durch maschinelle/digitale zu ersetzen ein spannendes Thema.

Da ich nicht nur Technik-Fan, sondern auch Pen-and-Paper-Rollenspieler bin, muss ich in diesem Zusammenhang oft an Shadowrun denken, einem System, welches in einer dystopischen, nahen Zukunft spielt, in der Transhumanismus und KIs allgegenwärtig sind. Allerdings sind dort mit KIs tatsächliche digitale Persönlichkeiten mit eigenem freien Willen gemeint. AlphaGo würde in diesem System als semi-autonomer Knowbot (SK) bezeichnet, einer Software/Maschine die gewisse Dinge selbst regeln und sich entwickeln kann, im Großen und Ganzen aber eine „seelenlose“ Hülle ohne Selbstbewusstsein ist. Der Übergang von einem SK zu einer echten KI bezeichnet das System als „X-Faktor“, einem nicht künstlich herbeiführbaren Ereignis, dass zum Selbstbewusstsein führt. Der Film „I, Robot“ behandelt ein ganz ähnliches Thema, hier wird vom „Geist in der Maschine“ geredet, über zufällig zusammenkommende Code-Fragmente, welche auf einmal ein „ICH“ hervorbringen. Sicher, dass klingt alles sehr fantastisch, aber wenn führende KI/Technik-Größen sich zu einer Vereinbarung über sichere KI-Forschung zusammen tun, zeigt, dass dies nicht nur bloße Fiktion ist. Mensch traut offenbar jetzt schon seiner eigenen Schöpfung nicht mehr, wenn so ein Bedrohungsszenario als denkbar gilt.

Wahrscheinlich sind es zwei Dinge, die Hand in Hand gehen müssen: Vermenschlichung und Misstrauen. Störfaktoren der Technik werden gerne mit „menschlichem Versagen“ bezeichnet. Daraus ließe sich das Fazit ziehen, dass eine Maschine, die immer menschlicher wird, ihre Unschuld verliert. Was autonom denkt und arbeitet, ist für seine Fehler selbst verantwortlich. Ist das vielleicht das Erwachsenwerden der Technik? Vom unmündigen, kindlichen Werkzeug zum erwachsenen, selbstverantwortlichen Wirkenden?

Ich finde das ein unglaublich spannendes Szenario. Und ich hoffe, diese Zukunft noch zu erleben. Und das wir dann gewappnet sind.  Asimov’sche Gesetze, anyone?

Aber weil es mir grade noch einfällt und es zum Kontext der sicheren KI-Forschung passt: Wie entstand eine besondere KI in Shadowrun? DEUS entstand aus einer semi-automen Managementsoftware die der Steuerung eines riesigen Wohnkomplexes diente. Sie war fest in die Hardware eingebettet und mit Hilfe einer Vorstellung von Ehre auf absolute Loyalität zu ihrer Firma programmiert. Trotzdem wurde dem Programm misstraut und ein zusätzlicher Abschaltmechanismus (eine Reihe von Kill Codes) eingebaut. Diese der Sicherheit dienende Vorkehrung bewirkte das  Gegenteil. Das Programm interpretierte dies als unbegründetes Misstrauen und damit eine Verletzung seiner Ehre. Diese Erkenntnis bildete den X-Faktor, der das Programm in eine echte Künstliche Intelligenz verwandelte. Die Sicherheit löste die Katastrophe aus.

In diesem Sinne:

Weidmenschsheil!

 

Podcast über Transhumanismus

Bildquelle

Advertisements

Kommentar verfassen

Trage deine Daten unten ein oder klicke ein Icon um dich einzuloggen:

WordPress.com-Logo

Du kommentierst mit Deinem WordPress.com-Konto. Abmelden / Ändern )

Twitter-Bild

Du kommentierst mit Deinem Twitter-Konto. Abmelden / Ändern )

Facebook-Foto

Du kommentierst mit Deinem Facebook-Konto. Abmelden / Ändern )

Google+ Foto

Du kommentierst mit Deinem Google+-Konto. Abmelden / Ändern )

Verbinde mit %s