Catrin Misselhorn

Künstliche Intelligenz und Empathie. Vom Leben mit Emotionserkennung, Sexrobotern & Co

[Was bedeutet das alles?]

• Broschiertes Buch

Produktbeschreibung

Emotionale künstliche Intelligenz gilt als Schlüsseltechnologie der Zukunft. Künstliche Systeme sollen mitfühlend sein und Empathie in uns auslösen. Doch wie erkennen und verarbeiten künstliche Systeme menschliche Emotionen? Können sie echte Gefühle und Empathie empfinden? Führt die Entwicklung schmerzempfindlicher Roboter in der Biorobotik zur Auflösung der Grenze hin zu biologischen Organismen? Haben wir auch moralische Pflichten gegenüber Robotern, die unser Mitgefühl rühren? Und was ist von Roboterliebe und Sexrobotern zu halten?Die Expertin für Maschinenethik Catrin Misselhorn diskutiert die ethischen und technischen Aspekte dieser Fragen an anschaulichen Beispielen aus der Praxis und gibt einen Überblick über neue Tendenzen der emotionalen Künstlichen Intelligenz, sozialen Robotik und Biorobotik.

Produktdetails

• Reclams Universal-Bibliothek 14047
• Verlag: Reclam, Ditzingen
• Artikelnr. des Verlages: 88538798
• Seitenzahl: 150
• Erscheinungstermin: 12. März 2021
• Deutsch
• Abmessung: 147mm x 96mm x 12mm
• Gewicht: 81g
• ISBN-13: 9783150140475
• ISBN-10: 3150140471
• Artikelnr.: 60672857

Autorenporträt

Catrin Misselhorn, geb. 1970, ist Professorin für Philosophie mit dem Schwerpunkt technische Philosophie an der Georg-August-Universität Göttingen. Sie gilt als Expertin für den Bereich der Maschinen- und Roboterethik in Deutschland. Beim Reclam Verlag erschien 2018 ihr Band »Grundfragen der Maschinenethik«, der auf den 3. Platz der Sachbuchbestenliste von ZEIT, ZDF und Deutschlandfunk Kultur gewählt wurde.

Inhaltsangabe

Vorwort 1. Emotionale Künstliche Intelligenz 2. Wie künstliche Systeme wissen, was wir fühlen 3. Menschliche und artifizielle Empathie 4. Von empathischen Pflegerobotern und virtuellen Seelenklempnern 5. Können Roboter Schmerzen empfinden? - Neue Tendenzen der Biorobotik 6. Arme Alexa! - Empathie mit Robotern und virtuellen Agenten 7. Freundschaft, Liebe und Sex mit Robotern Anmerkungen Literaturhinweise Zur Autorin

Rezensionen

Süddeutsche Zeitung | Besprechung von 16.03.2021

Sie
denken
groß
Joseph Vogl erklärt, wie das
Bündnis von Finanzmarkt und
Internetfirmen die Demokratie
bedroht. Und macht eine
düstere Prophezeiung
VON JOHAN SCHLOEMANN
Der Berliner Germanist Joseph Vogl ist durch den Schock der Finanz- und Euro-Krise in den vergangenen zehn Jahren zu so etwas wie einem Theorie-Star geworden. Er interessierte sich schon länger für das Verhältnis von Ökonomie und Literatur, aber seit dem Erfolg seines Buches „Das Gespenst des Kapitals“ im Jahr 2010 – einer meisterhaften Analyse der immer weiter gewachsenen Fiktionalität moderner Geldgeschäfte – hat sich Joseph Vogls Rolle verändert: von einem diskurskritischen Literaturwissenschaftler zum prominenten Kapitalismuskritiker.
Man wollte dringend von ihm wissen: Wie konnte das alles passieren? Und so verwandelte sich der Literaturprofessor von der Humboldt-Uni mit seiner Publizistik und seinen Auftritten auf diversen Podien, gewiss nicht nur durch eigenes Zutun, von einem Experten für Redeweisen und Suggestionen der Finanzwirtschaft in der modernen Ideengeschichte zu einem Experten für die Sache selbst.
Nun könnte man ebendiese Unterscheidung mit Verweis auf das Werk von Joseph Vogl auch leicht wieder zurückweisen: „Die Sache selbst“, der moderne Finanzmarkt, besonders seit seiner Entfesselung seit den Siebzigerjahren des 20. Jahrhunderts, ist doch, weil er auf Erwartungen und Spekulationen baut, von dessen fabelhaftem Charakter gar nicht zu trennen. Aber eine Schwerpunktverschiebung muss man dennoch feststellen, was die Position Vogls als eines Intellektuellen seit der Finanzkrise angeht: von der Analyse zur Entlarvung zur Anklage.
Dieser Weg führt nun auch zum neuen Buch von Joseph Vogl, „Kapital und Ressentiment“, das diesmal nicht mehr im aparten Züricher Theorieverlag Diaphanes, sondern bei C. H. Beck erscheint. Diese „kurze Theorie der Gegenwart“ will erklären, „wie sich der Aufbau neuer unternehmerischer Machtformen im digitalen Kapitalismus mit der Aushöhlung demokratischer Prozeduren und Institutionen kombiniert“. Nur ein kurzer Exkurs zeigt hier noch anhand eines literarischen Werkes (Herman Melvilles Roman „The Confidence-Man“) die Berührung „von erzählerischen und ökonomischen Konjunkturen“ auf. Sonst fußt Vogls Diagnose auf beeindruckend umfangreichen reichen Lektüren aus der Wirtschaftsgeschichte, der kritischer Ökonomie und jüngsten Analysen der Digitalisierung.
Hieraus ergibt sich dann ein beängstigender Zusammenhang, und das ist die These dieses Buches: Wie wir alle die Dienste der großen Internetfirmen nutzen, ihre algorithmische Kommunikations-Infrastruktur mit ihrer letztlich inhaltsleeren Bewertungslogik, das hat – einschließlich der dadurch beförderten politischen Werte- und Wahrheitskrisen unserer Zeit – direkt mit dem heutigen Funktionieren des weltweiten Börsenhandels zu tun, der seinerseits Treiber und Betätigungsfeld der Digitalisierung war und ist. So kommt es zu einem fatalen „Zusammenspiel zwischen Finanzindustrie, Informationskapital und Meinungsmärkten“.
Zur Darstellung dieser unheiligen und wohl auch unerbittlichen Allianz gelangt Joseph Vogl in sechs Schritten, bis sich am Ende eine Schlinge um den Hals der Demokratie gelegt hat. Es beginnt mit einem resümierenden Schnelldurchgang durch den Siegeszug des Finanzmarktes: seine Expansion, die Vermehrung der Schulden, die Deregulierung bei einem gleichzeitigen Pakt zwischen Staaten und Märkten, die Austerität und Ungleichheit. Das kennt man – nach der Finanzkrise und durch ihre Kompensation ist alles so weitergegangen wie zuvor: „Der Transfer finanzökonomischer Risiken von Märkten auf Staaten, Sozialsysteme und Bevölkerungen“, schreibt Vogl, „ist also geglückt.“
Vom zweiten Kapitel an bewegen sich dann neue Technologien und Marktgeschehen immer weiter aufeinander zu. Waren Banken und Börsen historisch immer schon auf die allerneueste Kommunikationstechnologie erpicht, so haben sich frühzeitig die entstehende IT-Branche und das Investmentbanking miteinander verzahnt. Dies kam der neoliberalen Theorie eines freien, von der Realwirtschaft abstrahierten Finanzmarkts entgegen, der „als fortlaufender Austausch zwischen Geld und Information gedacht“ wird. Die Theorien effizienter Märkte wurden in mathematische Formeln gebracht, diese ihrerseits in Computer programmiert, die damit Kaufentscheidungen lenken oder automatisch ausführen.
Schritt Nummer drei ist der Aufstieg der großen Internetfirmen – die nun nicht mehr nur von Bankern, sondern von allen genutzt werden. Es entsteht die Plattform-Wirtschaft, die scheinbar von jeglichem realen Verschleiß absehen kann: „Autofahrten ohne den Besitz von Fahrzeugen, Unterkünfte ohne Immobilienbesitz“ und so weiter, wie Vogl auf Uber oder Airbnb anspielend schreibt. Hier zielt man auf die Eroberung von Mono- oder Oligopolen, die Vermeidung von Steuern, Outsourcing, die Refinanzierung durch Werbung, und durch ständige Nutzung der weltumspannenden Kommunikationsdienste machen alle Menschen mit beim Geschäftsmodell: „Die Dienstzeit nimmt kein Ende.“
Viertens drängen die Konzerne der Digitalwirtschaft zu einer immer weiter ausgreifenden „Kontrollmacht“. Sie agieren gerade nicht mehr in neutralen Märkten, wie es sich der Liberalismus eigentlich einmal vorstellte, sondern in „proprietären Märkten“, die alles, wirklich alles zu dominieren streben. Sie spotten des Rechtsstaats und öffentlicher Regulierung. „Die liberale Phobie gegen den vorsorgenden Staat hat sich in die libertäre Feier des fürsorglichen Unternehmens verwandelt.“ Da ist es nur folgerichtig, dass die Netzfirmen zunehmend selber in den Finanzmarkt drängen und eigene Zahlungssysteme schaffen. Der Kreis schließt sich. Das Ziel des geplanten Facebook-Geldes Libra etwa, das inzwischen Diem heißt, ist „ein Geldwesen, dass sich im Privatbesitz einflussreicher Kapitalgeber befindet“.
Fünftens zieht sich nun die erwähnte Schlinge zu: Zur Entwertung von Wahrheit und Wissen kommt es laut Vogl durch eine perfides Bündnis von Wirtschaftstheorie und Kommunikations-Netzwerken, die folgende Überzeugung teilen: Es „liegt die ,Wahrheit‘ von Informationen eben nicht in der Richtigkeit von diesen oder jenen Sachbezügen, sondern einzig und allein darin, dass man die Freiheit ihrer Übertragung garantiert“. Das Prinzip, nach dem die Meinungsfreiheit in den USA auf die Wirtschaft übertragen wurde, fasst Vogl so zusammen: „freie Rede ohne Haftung, Rechtfertigung oder Begründungszwang“.
Und damit wären wir sechstens und letztens bei der digitalen Herrschaft des Ressentiments, die die Demokratie bedroht. Im Zuge der „Bewirtschaftung des Sozialen durch das Finanz- und Informationskapital“ ist das zentrale Profitprinzip eine „Mixtur aus rechnender Vernunft und toxischen Empfindungen“. Populisten lieben soziale Netzwerke: Indem etwa Facebook die Gesellschaft und ihre repräsentativen Institutionen zugunsten von Gemeinschaften abwerte, während die elektronische Börse ihrerseits als wertfreier Meinungsmarkt funktioniere, so heißt es schließlich im letzten Kapitel, sei „die Feindseligkeit aller gegen alle nicht nur zu einem erfolgreichen Geschäftsmodell, sondern zu einem überaus zukunftsfähigen Gemeinschaftsgefühl geworden“.
Bis dahin hat Vogl eine sehr suggestive, und absolut lesenswerte Story mit interessanten Einsichten und manchen bedenkenswerten Warnungen abgeliefert. Doch dann kommt noch ein allerletzter Satz. Er lautet: „Es ist nicht ausgeschlossen, dass es das Ferment einer neuen Vorkriegszeit liefern wird.“
Diesen Satz hätte Joseph Vogl nicht niederschreiben sollen. Er entwertet leider das ganze Buch. Betreibt er mit dieser düsteren Beschwörung nicht genau die Verdunkelung der politischen Vernunft, gegen die er anschreiben will? Man könnte sonst füglich streiten über Vogls Analogien zwischen Neoliberalismus und Internet-Öffentlichkeit und darüber, ob sie auch wirklich Kausalitäten sind. Man könnte auch fragen, ob die Angebote von Google oder Apple wirklich nur libertäre, ausbeuterische Machinationen sind oder nicht zugleich auch geniale Erfindungen, die den Bedürfnissen vieler Menschen entgegenkommen. Über all dies wäre zu reden, wäre da nicht dieser letzte Satz, der mit seiner Angstlust leider allzu deutlich über das Geschäftsmodell des Kapitalismuskritikers Auskunft gibt.
Die Feindseligkeit
aller gegen alle ist
zum zukunftsfähigen
Gemeinschaftsgefühl
geworden
Joseph Vogl:
Kapital und Ressentiment.
Eine kurze Theorie
der Gegenwart.
Verlag C. H. Beck,
München 2021.
224 Seiten, 18 Euro.
DIZdigital: Alle Rechte vorbehalten – Süddeutsche Zeitung GmbH, München
Jegliche Veröffentlichung und nicht-private Nutzung exklusiv über www.sz-content.de

Perlentaucher-Notiz zur F.A.Z.-Rezension

Rezensentin Manuela Lenzen nähert sich mit der Wissenschaftstheoretikerin Catrin Misselhorn dem Thema Emotionen im Bereich der Künstlichen Intelligenz. Ein weites, komplexes Feld, durch das sie die Autorin sachlich und anschaulich geleitet, auch wenn es manchmal etwas nach Lehrbuch riecht, wie Lenzen einräumt. Der Weg führt Lenzen über Emotionstheorien und die automatische Emotionserkennung in der Terrorbekämpfung, in der Altenpflege und im pädagogischen Bereich bis zu Sexrobotern. Die Autorin scheint all das kritisch zu betrachten, auch wenn sie nicht immer die von Lenzen erwarteten moralischen Fragen stellt. Zum Verständnis der Entwicklungen auf dem Gebiet der "fühlenden" Maschinen trägt der Band auf alle Fälle bei, versichert die Rezensentin.

© Perlentaucher Medien GmbH

Frankfurter Allgemeine Zeitung | Besprechung von 05.05.2021

Gefühle machen es Maschinen auch nicht leicht

Was will denn dieser Lächelmund besagen? Catrin Misselhorn macht mit den Versuchen bekannt, Künstlicher Intelligenz das Erkennen und Simulieren von Emotionen beizubringen.

Maschinen haben keine Emotionen. Auch niedliche Roboter mit großen Kulleraugen empfinden nichts. Dennoch sind Emotionen in der Künstliche-Intelligenz-Forschung ein großes Thema. "Affective Computing" oder "Emotionale Künstliche Intelligenz" heißt das Gebiet, in dem es darum geht, die Gefühle von Menschen zu vermessen und künstliche Systeme zu bauen, die diese erkennen und passend darauf reagieren können. Es ist ebenso unübersichtlich wie attraktiv: Für die Ergebnisse dieser Forschung interessieren sich Militär, Polizei und Geheimdienste ebenso wie die Unterhaltungs-, die Werbe- und die Sexindustrie. Catrin Misselhorn, Professorin für Wissenschaftstheorie und Technikphilosophie in Stuttgart, hat es nun unternommen, das Feld in einem schmalen Band zu kartieren. Sachlich und gut verständlich, wenn auch manchmal etwas lehrbuchhaft, führt sie durch Emotionstheorien, erklärt die Verfahren zur Emotionserkennung und berichtet von den Verwirrungen, die künstliche Systeme anrichten, die so tun, als hätten sie Gefühle.

Erst einmal diskutiert die Autorin die gängigen psychologischen Emotionstheorien und ihre Verwendbarkeit für die KI-Forschung. Emotionstheorien, in denen das Erleben besonders wichtig ist - die Angst, die einen überfällt, wenn sich nachts von hinten Schritte nähern -, sind weniger geeignet als solche, die Emotionen vor allem als eine Art von Bewertungen betrachten. Denn Bewertungen lassen sich in Algorithmen fassen, das subjektive Erleben nicht.

Auf dem Hintergrund eines so vereinfachten Verständnisses von Emotionen gilt es dann, Systemen beizubringen, menschliche Emotionen zu erkennen. Zuerst schloss die Forschung, wie Misselhorn zeigt, an ältere Versuche an, Menschen darauf zu trainieren, die Emotionen anderer besonders präzise zu erfassen, wie sie etwa der Psychologe Paul Ekman unternommen hat. Aktuell werden Algorithmen zur Emotionserkennung in Verfahren des maschinellen Lernens mit großen Mengen an Daten trainiert, etwa Bildern von Gesichtern mit emotionalem Ausdruck, die zuvor von Menschen betrachtet und klassifiziert wurden.

Die Ergebnisse sind umstritten. Oft funktionieren die Algorithmen nur bei Gesichtern, die gut ausgeleuchtet von vorn zu sehen sind. Bei weißen Gesichtern sind sie manchmal zuverlässiger als bei farbigen, weil die Trainingsdaten mehr Bilder weißer Menschen umfassten. Vor allem aber, so beschreibt es Misselhorn, sind Algorithmen nicht in der Lage, den Zusammenhang zu erfassen, in dem ein Gesichtsausdruck auftritt. Dieser ist aber zentral, um zu erkennen, ob zum Beispiel ein Grinsen lustig oder eher ironisch ist. Ähnlich unsicher seien die Ergebnisse auch bei Versuchen, Emotionen an der Stimme, der Verwendung positiver oder negativer Ausdrücke in den sozialen Medien oder anhand von physiologischen Reaktionen wie dem Blutdruck oder dem elektrischen Hautwiderstand zu bestimmen.

Obwohl die automatische Emotionserkennung also nach wie vor alles andere als sicher gelingt, wird an Systemen gearbeitet, die die Konzentration von Schülern im Unterricht überwachen, das Erkennen von Terroristen erleichtern, die Belastbarkeit von Bewerbern oder die psychische Gesundheit von Versicherungsnehmern einschätzen, Computerspiele spannender und Werbung effektiver und Kunden durchsichtiger machen sollen. Siebzehn Einträge umfasst die eindrucksvolle Tabelle, in der Misselhorn die möglichen Verwendungen automatischer Emotionserkennung und -manipulation zusammengetragen hat - natürlich ohne Anspruch auf Vollständigkeit.

Leider erfährt der Leser nicht, inwieweit diese Systeme schon zur Anwendung kommen. Und auch über ihre Auswirkungen kann Misselhorn nur Vermutungen anstellen: Menschen, die wissen, dass sie permanent beobachtet und ihre Emotionen analysiert werden, verändern ihr Selbstverständnis und ihr Verhalten, so die Autorin. Im Extrem könnte der Mensch sich in Zukunft gezwungen sehen, sich im öffentlichen Raum nicht nur unauffällig, sondern auch stets künstlich gut gelaunt zu bewegen.

Der Umgang mit den Möglichkeiten automatisierter Emotionserkennung ist derzeit die gesellschaftspolitisch relevanteste, aber nicht die einzige Baustelle im Bereich der "Emotionalen Künstlichen Intelligenz". Eine andere ist die Frage, wie die Roboter, Avatare und Bots der Zukunft ausgestattet sein sollen. Künstliche Systeme empfinden nichts, aber sollten sie so tun, als ob? Misselhorn berichtet etwa vom Projekt NIKA, in dem Forschende in der Altenpflege mit einem Roboter experimentieren, der basale Emotionen erkennen und durch Gesten, Haltung und die Farbe seiner Augen selbst Emotionen simulieren soll. Die Emotionserkennung gelingt einer Studie zufolge in Ansätzen, die Interaktion von Mensch und Maschine ist aber weit von einer natürlichen entfernt. Mögen Menschen Systeme, die Emotionen vorspielen, eigentlich lieber als neutrale Maschinen? Die Datenlage scheint bislang zu dünn, um das zu beantworten.

Könnte es Maschinen geben, die Emotionen nicht nur vorspielen, sondern tatsächlich empfinden? Die dann vielleicht auch echtes Mitleid haben könnten? Es ist ein etwas abseitiges Gebiet, aber auch dazu wird geforscht. Misselhorn sieht die erfolgversprechendsten Ansätze dazu im Bereich neuer synthetischer Materialien, die biologischem Leben möglichst nahekommen, und in Experimenten mit Stammzellen, die nach am Computer entwickelten Plänen zusammengesetzt werden. Ob Versuche, künstliche Emotionen zu schaffen, jemals erfolgreich sein werden, ist allerdings völlig offen. Die naheliegende Frage, ob es moralisch vertretbar wäre, erlebnisfähige und damit auch leidensfähige Maschinen zu bauen, stellt die Autorin nicht.

Stattdessen diskutiert sie, ob unser Umgang mit den gefühllosen, aber Gefühle vorspielenden Maschinen moralisch relevant ist. Hat, wer einen menschenähnlichen Roboter misshandelt, einen zweifelhaften Charakter oder ein gutes Unterscheidungsvermögen? Ersteres, so Misselhorn, denn vermutlich beschädige der Mensch mit solchem Handeln seine Fähigkeiten zu Empathie und Moral auch gegenüber seinen Mitmenschen.

Im letzten Kapitel des Buches handelt Misselhorn vom Umgang mit Sexrobotern. Auch hier überwiegen ihre Bedenken. Diese Maschinen seien dazu angetan, Frauen zu verdinglichen. Und sie könnten dazu führen, andere Menschen in Liebesbeziehungen ebenfalls wie Roboter zu behandeln, in letzter Konsequenz könne sich der Mensch beginnen, sich selbst als eine Art Maschine zu betrachten.

Vor Emotionaler Künstlicher Intelligenz kann die Autorin deshalb am Ende nur warnen: wegen der Überwachung, die Systeme zur Emotionserkennung ermöglichen, und wegen der Verwirrung, die scheinbar fühlende Maschinen unter Menschen anrichten könnten. Vieles ist in diesem Bereich noch unverstanden, viele Entwicklungen stehen erst am Anfang. Deshalb kommt Misselhorns vielseitiges Buch zur richtigen Zeit: Es hilft, diese Entwicklungen besser zu verstehen.

MANUELA LENZEN

Catrin Misselhorn: "Künstliche Intelligenz und Empathie". Vom Leben mit Emotionserkennung,

Sexrobotern & Co.

Reclam Verlag, Stuttgart, 2021.

181 S., br., 12,- [Euro].

Alle Rechte vorbehalten. © F.A.Z. GmbH, Frankfurt am Main

»Allein Misselhorns Anekdoten davon, wie weit die Simulation von Empathie in Maschinen schon fortgeschritten ist, lesen sich wie ein Thriller. [...] Was sie selbst geliefert hat, ist ein erster Ausblick auf einen Technologiesprung, der die Auswirkungen sozialer Medien und aktueller Überwachungs- und Manipulationstechnologien weit in den Schatten stellen könnte. [...] Catrin Misselhorn bringt mit ihrem Blick einer europäischen Maschinenethikerin genau die nötige Portion Zweifel und Widerspruch in den Diskurs, der die weitere Entwicklung begleiten muss.« Süddeutsche Zeitung, 16.03.2021 »Es zeuge von Menschlichkeit, auch in Maschinen ein echtes Gegenüber sehen zu können. Es kann aber auch zu Problemen führen. Die Maschinen-Ethikerin spricht diese und viele andere Fragen rund um das Leben mit KI an - und regt an, das Thema weiterzuverfolgen und weiterzudenken.« SRF2 Kultur, »Das Sachbuch-Trio«, 12.04.2021 »Sachlich und gut verständlich - ein vielseitiges Buch zur richtigen Zeit: Eshilft, die Entwicklungen besser zu verstehen.« Frankfurter Allgemeine Zeitung, 05.05.2021 »Catrin Misselhorn zeigt sehr genau auf, welchen KI-gesteuerten Beeinflussungen wir heute schon ausgeliefert sind - wenn wir nicht wachsam sind.« Ö1 »Kontext«, 04.06.2021 »Ein großartiges Buch« SRF Kultur, 13.04.2022