KI-Pionier warnt:

KI-Entwickler sind gefährlicher als ihre Schöpfung

Digital
17.02.2018 09:00

Vielfach sehen Proponenten der Künstlichen Intelligenz (KI) Systeme kommen, die Menschen in komplexen Aufgaben überflügeln. Für KI-Pionier Robert Trappl geht dabei von den Entwicklern etwaiger "Superintelligenzen" mehr Gefahr aus als von den mitunter gar mit "göttlichen" Attributen ausstaffierten Systemen selbst.

Von Mittwoch bis Samstag suchten internationale Experten unter dem Titel "Envisioning Robots in Society - Politics, Power, and Public Space" an der Universität Wien nach geisteswissenschaftlichen Zugängen zur Robotik und ihr zugrundeliegender KI oder Artificial Intelligence (AI), den Abschluss bildete eine Konferenz zur „Robophilosophie“.

Diktatur der Künstlichen Intelligenz
In der Welt der Science-Fiction sind künstliche Intelligenzen, die ein Bewusstsein entwickeln und sich postwendend gegen ihre Schöpfer wenden, fast schon ein Klassiker. Im aktuellen Hype komme allerdings auch eine Vielzahl an wissenschaftlichen Arbeiten heraus, die Szenarien entwerfen, wie sich "die AI zu einem riesigen Diktator" entwickeln kann, so Trappl.

Solche Gedanken an eine dominante "Superintelligenz, die uns im besten Fall wie Haustiere und im schlimmsten Fall wie Sklaven behandelt", haben für den 79-jährigen Gründer des Österreichischen Forschungsinstituts für Artificial Intelligence (OFAI) in Wien "gottähnliche" Züge. So ein hypothetisches System "könnte natürlich sehr viel bestimmen". Die Vorstellung, dass es "das auch will, ist für mich aber absurd", sagte Trappl. Denn Intelligenz sei im Grunde ein Bündel an Strategien, um wichtige Ziele zu erreichen.

Musk und Hawking warnen
Damit eine Superintelligenz zielgerichtet nach eigenen Vorstellungen die Menschheit unterjochen kann, brauche sie jedenfalls so etwas wie eine menschlich geprägte Persönlichkeit. Trappl: "Es ist schon anzunehmen, dass mit der weiteren Entwicklung intelligenter Systeme auch ihre Zielsetzungen immer komplexer werden" und diese vielleicht auch denen ihrer Konstrukteure zuwiderlaufen können. Warnungen zur Wachsamkeit vor einem Beginn solcher Entwicklungen kamen kürzlich etwa vom Hightech-Unternehmer Elon Musk oder dem Physiker Steven Hawking.

Andere sehen das weit unkritischer: So etwa Demis Hassabis, Mitbegründer der britischen Google-Schwesternfirma "DeepMind", die mit einem System aufwarten kann, das menschliche Spitzenspieler im Brettspiel Go besiegt. Er vertrete sozusagen den Standpunkt, "wir müssen eine 'Artificial General Intelligence' (eine Art generell einsetzbare KI; Anm.) entwickeln und damit lösen wir dann alle Probleme", so Trappl. Sogar eine Religionsgemeinschaft mit einer KI im Zentrum habe etwa der umstrittene KI-Forscher Anthony Levandowski bereits angemeldet.

"Deep Learning"-Systeme als Blackbox
Hier sehe man gewissermaßen Auswüchse eines Hypes rund um die vielversprechende Forschung zu künstlichen neuronalen Netzwerken unter dem Schlagwort "Deep Learning". Was in solchen Systemen allerdings tatsächlich im Detail abläuft, "weiß man überhaupt nicht", sagte Trappl.

Viel manipulative Macht liege daher bei den Konstrukteuren solcher Systeme: "Der AI-Gott ist momentan viel ungefährlicher als das Potenzial, das in den Händen von Menschen liegt." Niemals zuvor waren nämlich so viel Rechen- und Speicherleistung sowie derart viele Daten, "die Leute freiwillig hergeben", im Umlauf.

Ethische Fragen gewinnen an Bedeutung
Für den Wissenschaftler ist jedenfalls klar, dass beim Fortschreiten der Entwicklung die Auseinandersetzung mit ethischen Fragen intensiver werden muss. Denn bei der Betreuung von oder bei der Zusammenarbeit mit Menschen sollte KI nicht nur ethisches Verhalten zeigen, sondern menschliches ethisches Verhalten auch verstehen.

Betreue ein Roboter etwa einen älteren Menschen, der einem Bettler eine Münze gibt und dafür nichts zurückerhält, muss die KI diese zutiefst menschliche Handlung dechiffrieren können. Dazu brauche es tatsächlich eine tiefergehende Auseinandersetzung mit der Thematik.

 krone.at
krone.at
Loading...
00:00 / 00:00
play_arrow
close
expand_more
Loading...
replay_10
skip_previous
play_arrow
skip_next
forward_10
00:00
00:00
1.0x Geschwindigkeit
explore
Neue "Stories" entdecken
Beta
Loading
Kommentare

Da dieser Artikel älter als 18 Monate ist, ist zum jetzigen Zeitpunkt kein Kommentieren mehr möglich.

Wir laden Sie ein, bei einer aktuelleren themenrelevanten Story mitzudiskutieren: Themenübersicht.

Bei Fragen können Sie sich gern an das Community-Team per Mail an forum@krone.at wenden.

(Bild: krone.at)
(Bild: krone.at)
Kreuzworträtsel (Bild: krone.at)
(Bild: krone.at)



Kostenlose Spiele