Wer von uns träumte als Kind nicht von einem Roboter, der einem all die nervigen Pflichten, wie Hausaufgaben, Zimmer aufräumen oder Müll rausbringen abnimmt. Was für ein verlockendes Versprechen allein der Begriff Roboter in sich trug und noch immer trägt – und wie viele dieser verlockenden Versprechen sind seit Mitte des 20. Jahrhunderts eingelöst worden: Roboter saugen für uns Staub, parken ein und bremsen für uns, helfen bei der Pflege von Menschen und ja, auch beim Sex sind Roboter gefragt. Für viele von uns sind Roboter bereits Bestandteil des alltäglichen Lebens.
Dennoch bleiben sie für die meisten von uns aber doch das "Andere" – das Nicht-Menschliche, die Maschine, der Apparat. Dass diese Unterscheidung, die wir so unhinterfragt in unseren Köpfen mitführen, so klar eigentlich nicht oder nur sehr schwer getroffen werden kann, wie sehr und auf welche Weise Mensch und Maschine miteinander verwoben sind, und was das Nachdenken über Roboter in unserer Gesellschaft so spannend macht, darüber haben wir per Mail mit der Philosophin Dr. Janina Loh gesprochen. Sie ist Universitätsassistentin im Bereich Technik- und Medienphilosophie an der Universität Wien und im Dezember 2019 ist ihr Buch "Roboterethik" im Suhrkamp Verlag erschienen.
waterkant // Liebe Janina, im vergangenen Dezember ist Dein Buch "Roboterethik" bei Suhrkamp erschienen. Wie kommt man als Philosophin auf die Idee, sich mit Robotern und/oder Maschinen im weiteren Sinn zu befassen?
Dr. Janina Loh // Ich finde die Auseinandersetzung mit Robotern aus primär zwei Gründen interessant: Erstens sind sie nicht nur ein vermeintlich modernes Phänomen, das in der Gegenwart viele ethische Fragen aufwirft, sondern sie erlauben ein Nachdenken über die Zukunft und darüber, in welcher Gesellschaft wir leben wollen. Zugleich lässt sich mit ihnen auch ein Blick in die Vergangenheit werfen, denn die Idee von autonomen Maschinen ist in der Tat sehr alt und taucht spätestens bereits bei Homer auf. Zweitens zeigt sich an den Robotern, dass die Trennung zwischen den akademischen Disziplinen nicht aufrechterhalten werden kann. Wenn ich mich als Philosophin mit Robotern beschäftige, muss ich in den Dialog mit der Robotik, der KI-Forschung, der Informatik, dem Recht, der Psychologie, den Gender Studies, den Science and Technology Studies usw. treten.
Die Idee zum Buch rührte dann daher, dass es eine Einführung in die Roboterethik in dieser Weise im deutschsprachigen Raum noch nicht gab. Zwar existieren einige sehr gute Studien zur Maschinenethik, aber das ist, genaugenommen, noch mal etwas anderes als Roboterethik. Denn zwar sind alle Roboter Maschinen, nicht aber alle Maschinen Roboter. Roboter sind spezielle Maschinen und mit ihnen werden Fragen aufgeworfen, die sich etwa mit Blick auf einen Toaster oder eine Ampel vermutlich nicht stellen. Außerdem wollte ich eine Einführung schreiben, die nicht nur für (angehende) akademische Philosoph*innen von Interesse ist, sondern für alle, die sich mit diesem Thema befassen wollen.
waterkant // Mal ganz platt gefragt: warum sollten wir in Bezug auf Maschinen über Ethik oder moralische Fragen nachdenken?
JL // Menschliches Handeln ist nie neutral, es folgt immer, ob bewusst oder unbewusst, (auch) moralischen Werten. Denn menschliches Handeln wird durch Intentionen und Gründe gesteuert. So unterscheiden wir es vom tierischen Instinkt oder vom automatisierten Verhalten, bei dem wir nicht nachdenken müssen. Und da menschliches Handeln nie neutral ist, sind auch die Produkte menschlichen Handelns nie neutral. Ergo sind auch Roboter als ganz spezifische Erzeugnisse menschlichen Handelns nie neutral, denn es gehen immer die (auch moralischen) Werte ihrer Schöpfer*innen in sie ein. Sehr vereinfacht können wir ja sagen, dass jedes menschliche Erzeugnis, einem Zweck dient, und dieser Zweck lässt sich ethisch bewerten. Ein Maschinengewehr etwa wurde dafür gemacht, einem Gegenüber immensen Schaden zuzufügen. In diesem Zweck sind mehrere moralische Werte enthalten, die wir kritisch reflektieren können.
Die ethischen Fragen, die sich mit Blick auf Roboter (wie im Übrigen auch mit Blick auf alle anderen Artefakte) stellen, lassen sich grob in vier Kategorien unterscheiden, die allerdings zusammenhängen: ethischeFragen, die sich in der Herstellung und dem Design eines Roboters stellen, ethische Fragen, die sich hinsichtlich der Autonomie und des Aufgabenbereichs des fraglichen Roboters stellen, ethische Fragen, die die im Betrieb des Roboters entstehenden Daten und die Sicherheit betreffen sowie ethische Fragen, die mit dem Kontext und dem Einsatzbereich des fraglichen Roboters zusammenhängen.
waterkant // Du bist als Wissenschaftlerin an der Uni Wien und arbeitest derzeit an Deiner Habilitation. Themen wie Robotik und Künstliche Intelligenz haben aber immer auch einen stark anwendungsbezogenen Kontext. Wie sind deine Erfahrungen bzw. Dein Eindruck: verschalten sich Wissenschaft, und insbesondere die Philosophie, mit Entwickler:innen in der Wirtschaft, um solchen Fragen nachzugehen? Wie viel Querverbindungen werden datatsächlich hergestellt und wie fruchtbar würdest Du die einschätzen?
JL // Das schließt etwas an die erste Frage an. In der Tat müssen die Disziplinen zusammenarbeiten, wollen sie das Phänomen der Roboter umfassend erörtern. Und nach meinem Dafürhalten geschieht das auch verstärkt. Aus meiner persönlichen Erfahrung kann ich sagen, dass das Interesse bspw. der Technikwissenschaften an einer Zusammenarbeit mit der Philosophie inden letzten Jahren deutlich zugenommen hat. Etwa 90% aller Veranstaltungen, zu denen ich eingeladen werde, sind keine rein philosophischen, sondern interdisziplinäre, und noch einmal 90% von diesen Veranstaltungen sind keine rein akademischen, sondern für eine breitere Öffentlichkeit und auch für die Zusammenarbeit mit der Wirtschaft gedacht.
An den Robotern zeigt sich sehr schön, dass unsere Lebensrealität, unsere Wirklichkeit, bunt und komplex ist und sich nicht fein säuberlich in einzelne Disziplinen oder Sektoren sortieren lässt. Mit jedem Ordnungsversuch – etwa: Hierher gehören die ethischen Aspekte, hierher die ökonomischen, hierher die politischen usw. – geht ein Reduktionismus und eine gefährliche Konkurrenz einher. Denn jeder Sektor beansprucht für sich, die eigentlich wichtigen Aspekte im Blick zuhaben. Eine solche Sicht ist nicht nur tendenziell ideologisch, dogmatisch, exkludierend und diskriminierend, sondern wir werden auch dazu eingeladen, Verantwortung von einem Bereich in den nächsten zu schieben, bis wir so weit sind, dass niemand mehr bereit ist, Verantwortung zu tragen.
waterkant // Was, würdest Du sagen, sind die größten Versprechen der Entwicklungen im Bereich der Robotik?
Historisch geht der Ausdruck »Roboter« ja auf das tschechische Wort »robota« für Arbeit, Frondienst und Zwangsarbeit zurück. 1921 hat Karel Čapek es in dem Theaterstück R.U.R. Rossum’s Universal Robots als Bezeichnung für humanoide Apparaturen genutzt, die den Menschen zu Diensten stehen. Der erste etablierte Bereich der Robotik, nämlich die Industrie, spiegelt die Vision, die Čapek in dem genannten Theaterstück entwirft. Auch ist sie Kernbestand der sog. Industrie 4.0, der technologischen Transformation der menschlichen Arbeitswelt durch Digitalisierung und Automatisierung. Bislang sollen Roboter v.a. diejenigen Arbeiten übernehmen, die als »dull, dangerous,and dirty« gelten also als »langweilig, gefährlich und schmutzig«. Ich würde annehmen, dass Roboter damit nach wie vor das größte Versprechen formulieren, nämlich solche Aufgaben für Menschen zu übernehmen, die diese aus gleich welchen Gründen nicht ausführen wollen. Doch darin liegt zugleich ein großes Risiko, denn es ist alles andere als ausgemacht, welche Tätigkeiten hierunter fallen und wer zu entscheiden hat, dass eine Tätigkeit hinreichend langweilig, gefährlich oder schmutzig ist, dass ein Mensch sie nicht mehr ausüben soll!
Roboter können natürlich weit über diese Hoffnung hinaus eingesetzt werden – etwa in der Kunst, in der Lehre und Bildung, imSpiel und als potenzielle Gefährt*innen. Deshalb müssen wir auch hier die Dinge differenzierter sehen.
waterkant // Gerade herrschen nun auch besondere Umstände durch die CoVid19-Situation. Das Virus wird in Internet-Memes schon als die Triebfeder der Digitalisierung in eher als verstaubt bekannten Kontexten gehandelt. Aber Spass beiseite, siehst Du in der aktuellen Situation besondere Chancen für den Einsatz von Robotern und/oder Künstlicher Intelligenz?
JL // Künstliche Intelligenz und Robotik findet mit Blick auf CoVid19 zu ganz unterschiedlichen Zwecken verbreiteten Einsatz, etwa in der Diagnose, ob jemand erkrankt ist oder ob jemand erhöhte Temperatur hat, in der Suche nach Impfstoffen und Medikamenten, in Form vonTherapievorschlägen, in Form von Vorschlägen für eine Vorauswahl, welche Menschen auf das Virus getestet werden sollen, in der Prognose über den Verlauf von CoVid19 und über den Verlauf einer individuellen Erkrankung sowie in den Tracing-Apps die gerade diskutiert werden. Roboter unterstützen in China die Polizei, diagnostizieren auf der Straße, an Flughäfen und in Einkaufszentren, helfen bei der Patrouille und Ausweiskontrolle.
Aber alle diese Einsatzbereiche und Anwendungsgebiete von KI und Robotik sind letztlich nicht neu, sondern rücken nun lediglich dank CoVid19 in den Mittelpunkt des Interesses. Sicher, KI unterstützt uns darin, schneller, gezielter, effizienter und risikoärmer Ressourcen einzusetzen und Diagnosen zu stellen. Doch sollten wir genau das stets im Blick behalten: dass auch die smartesten Systeme lediglich assistieren, Vorschläge machen, unterstützen. Die beteiligten Menschen werden nicht aus ihrer Verantwortung entlassen. Menschen sind keine Prophet*innen – ihre Maschinen sind es noch viel weniger!
waterkant // Abschließend würde wir gern von Dir wissen, was Deiner Meinung nach das nächste große Ding im Bereich dieser neuen Technologien sein wird, an das wir im Moment noch gar nicht, oder erst in Ansätzen denken?
JL // Um an das Ende meiner letzten Antwort anzuknüpfen: Ich tue mich sehr schwer mit Prognosen, denn ich bin leider nur eine Philosophin und keine Prophetin. Und wie bereits ausgeführt, sind die Weisen, in denen wir KI und Robotik mit Blick auf CoVid19 einsetzen, nicht unbedingt neu. Auch hinsichtlich der Robotik im Allgemeinen bin ich mir nicht sicher, inwiefern uns hier in der Zukunft etwas vollständig Unerwartetes begegnen wird. Selbst die Idee der Superintelligenz ist ja bereits eine bekannte und in vielen Disziplinen untersuchte Vision. Über alle diese denkbaren, möglichen und unmöglichen Spielarten von KI und Robotik wird bereits ausführlich und interdisziplinär diskutiert (mindestens in der Science Fiction, die den Wissenschaften stets ein paar Schritte voraus zu sein scheint) – soweit zumindest meine bescheidene Wahrnehmung.
Aber ich möchte doch das Gesagte positiv wenden: Vielleicht sollten wir weniger den Effekt, das Neue, das Exotische und Aufregende in der Robotik suchen, denn wir bewegen uns hier nun mal nicht im Bereich der Science Fiction. Menschen sind technische Wesen, wir sind mit und durch Roboter und Roboter sind mit und durch uns, wir begegnen uns selbst und wir begegnen der Welt in, mit und durch Roboter. Ist es nicht aufregend genug, dieser trivial anmutenden Wahrheit in all ihrer Komplexität und Differenziertheit und bis in die kleinsten Winkel unseres Seins nachzuspüren? Außerdem stellen sich bei den bereits existierenden Robotern brisante ethische Fragen, auf die es Antworten zu finden gilt, weil sie uns letztlich alle betreffen. Lasst uns doch mit denen mal anfangen.
Dr. Janina Loh ist Universitätsassistentin im Bereich Technik- und Medienphilosophie an der Uni Wien. 2018 erschien bei Junius ihre "Einführung in den Trans- und Posthumanismus", 2019 die "Roboterethik" bei Suhrkamp.
Keine News verpassen und abonnieren!
