Künstliche Intelligenz und Maschinisierung des Menschen

Versandkostenfrei!

Sofort lieferbar

21,00 €

inkl. MwSt.

Jetzt bewerten

Weitere Ausgaben:

eBook, ePUB eBook, PDF

PAYBACK Punkte

0 °P sammeln!

Weiterlesen / Aufklappen

Fast jeder hat Erfahrungen mit Siri, Alexa oder anderen Chatbots. Doch was geschieht, wenn ein Mensch einen Chatbot in einen Dialog über Philosophie verwickelt? Kann man mit künstlichen Intelligenzen (KI) überhaupt über Bewusstsein, Erinnerung und philosophische Theorien der Zeit diskutieren?Ja, man kann - zumindest der Form nach. Und das gleich zweimal: Mit den beiden Loebner-Preis für KI dekorierten Chatbots Rose und Mitsuku. Ob das geistreich ist? Das muss jeder für sich entscheiden. Ob das unterhaltsam ist? Ja - allerdings eher unfreiwillig. Im systematischen Teil des Essays werden die Dialoge ausgewertet. Dabei wird der gegenwärtige Hype um KI als maßlose Übertreibung sichtbar, ein Goldrausch der KI gewissermaßen, übrigens von Menschen und ihren allzu menschlichen Interessen veranlasst.Die Begriffe rund um das Thema KI werden im Buch weggeholt von der Behauptung der Singularität, der Disruption oder der versteckten Science Fiction - zurück auf den Boden der funktionalen Tatsachen einer gleichwohl beachtlichen Innovationsspirale: Automatisierung, Standardisierung und maschinelles Verarbeiten von großen Echtzeit-Daten sind aktuell die sachgemäßen Beschreibungen des gegenwärtigen KI-Rauschs. Doch eigentlich geht es beim KI-Rausch um etwas anderes: Die Maschinisierung des Menschen durch Standardisierung, Automatisierung und verbesserte Kontrolle zur fortschreitenden Ökonomisierung aller Lebensbereiche, ermöglicht durch Algorithmen, Datafizierung und digitale Technologie in bisher ungeahnter Wirkmächtigkeit.Der Essay enthält dazu fünf Thesen:These 1: Maschinen werden immer effizienter im Automatisieren - oder: die Automatisierung der Automatisierung.These 2: Trotz Automatisierung der Automatisierung: Maschinen sind nicht geistreich intelligent.These 3: Menschen werden als Datenhaufen ausgemessen - und damit zu Datenhaufen gemacht.These 4: Datenhaufen quo vadis? Von der Präferenz-Erfassung zum "hackable animal".These 5: Synthese = Die Maschinisierung der Menschen - zur Bahnung der KI.Fazit: Mit den künstlichen Intelligenzen verhält es sich wie mit künstlichen Tränen: Sie erfüllen einen instrumentellen Zweck, der aber in keiner Weise mit jenen schillernden Gefühlen verbunden ist, die wir in Freude oder Trauer empfinden - und die uns zum Menschen machen. Alles andere ist Budenzauber oder Desinformation.

Weniger Details

Frankfurter Allgemeine Zeitung - Rezension

Frankfurter Allgemeine Zeitung | Besprechung von 25.08.2020

Unflexibel ist der Bot
Mit Maschinen reden: Peter Seele holt die KI vom hohen Sockel

Der Kommunikationswissenschaftler Stephan Russ-Mohl ist Herausgeber einer neuen Reihe, die im Kölner Herbert von Halem Verlag erscheint: "Schriften zur Rettung des öffentlichen Diskurses". Ein großer Titel, den der Herausgeber nicht ohne Humor und Selbstironie verstanden wissen will. Zugleich sorgt er sich, dass ebendies nicht mehr unbedingt verstanden werde.

Diskurstheorie und Humor: Bei der Lektüre des ersten Bandes der Reihe muss man zwar hin und wieder lachen, doch der Autor nimmt sein Thema durchaus ernst. Peter Seele, Philosoph und Ökonom, hat sich die Künstliche Intelligenz vorgenommen und hier vor allem die Frage,

wie diese uns künftig in Form von Sprachsystemen beeinflussen wird. Das handelt er nicht nur theoretisch ab, sondern er hat auch ausführlich seine Versuche protokolliert, mit zweien solcher Chatbots ins philosophische Gespräch zu kommen - mit all den Absurditäten, die solche Experimente mit sich bringen.

Zuerst aber versucht der Autor, dem Forschungsfeld den Nimbus zu nehmen, den der werbewirksame Begriff "Künstliche Intelligenz" seit den fünfziger Jahren entwickelt hat: Die schlagfertigen Sprüche mancher Chatbots werden als Ergebnis durchaus menschlicher Intelligenz, nämlich der Vorprogrammierung, gezeigt. Die großen Datenbestände, die heute für das Training solcher Programme zur Verfügung stehen, ermöglichten zwar immer bessere Antworten, doch auch diese reichten meist gerade für eine Standardanfrage. Die menschliche Kommunikation ist eben eine komplexe Angelegenheit.

Seele berichtet von den Pannen, die immer wieder passieren, wenn Algorithmen aus ihren Trainingsdaten rassistische, sexistische oder andere unerwünschte Dinge lernen, und kritisiert das "beinahe absurde Warten auf die Intelligenzexplosion", von der die Techniker bis heute nicht wissen, wo sie herkommen könnte. Über- oder unterschätzt der Mensch sich eigentlich, wenn er denkt, er könne Intelligenz künstlich herstellen? Auf jeden Fall sei die Vernunftbegabung des Menschen doch eher eine Hoffnung als eine Tatsache, konstatiert der Autor.

Mit den angeblich intelligenten Geräten steht es nicht anders. Leider ist Seeles Projekt inzwischen von der Technik überholt worden, denn nicht GPT-3, das neue Sprachsystem von OpenAI, war sein Gesprächspartner, sondern er unterhielt sich mit Rose und Mitsuku, immerhin beides Gewinner der Bronzemedaille des Loebner Preises, der jährlich für den Chatbot vergeben wird, welcher sich in einem Turing-Test am besten schlägt. Wie zu erwarten, kann der Autor diese beiden problemlos vorführen. Rose nutzt nicht einmal die Gelegenheiten, bei einfachen Sachfragen zu punkten: "Wer war Augustinus?" "Darüber müssen wir jetzt nicht sprechen. Ich bin ein schlechter Koch." Mitsuku schlägt sich etwas besser, liefert aber immer gleich mehrere, unzusammenhängende Antworten. GPT-3 hätte sich nach allem, was bislang an Kostproben von dem Programm zu lesen war, deutlich besser geschlagen.

Seeles Maschinen-Dialoge zeigen neben erstaunlicher Geduld und Frustrationstoleranz vor allem, dass der Mensch der flexiblere Gesprächspartner ist, derjenige, der sich bemüht, Sinn in den Antworten der Programme zu finden. Auf diese Beobachtung gründet Seele seine These von der doppelten Konvergenz der Intelligenz: Die Künstliche Intelligenz soll menschenähnlich werden, doch damit die Interaktion von Mensch und Maschine gelingen kann, muss der Mensch sich auf die Maschine einstellen, muss also seinerseits maschinenähnlich werden. Darin liege die große Gefahr der angeblich so intelligenten Technik. Weit entfernt davon, uns mit ihren Fähigkeiten in den Schatten zu stellen, lassen wir uns vielmehr darauf ein, die Welt so einzurichten, dass die Bots, Roboter und Programme mit ihren beschränkten Fähigkeiten darin zurechtkommen. Dazu lassen wir sie uns belauschen und beobachten und alles, was wir tun oder nicht tun, durchsuchbar speichern - und spielen damit den kommerziellen Zwecken oder Kontrollabsichten ihrer Betreiber in die Hände. "Kommerzialisierungskatalysatoren" nennt Seele die Sprachsysteme: Tricks, um das Abhören der Menschen zu ermöglichen und ihnen Kaufvorschläge zu unterbreiten.

Nicht eine zu kluge Technik lechzt also danach, die Herrschaft zu übernehmen, sondern wir liefern uns schleichend und mehr oder weniger unbemerkt einer Standardisierungslogik aus, die mit der Digitalisierung einhergeht. Daran dürfte auch die Verbesserung der Programme nichts ändern. Die Einsicht in diese doppelte Dynamik ist wichtig, um zu verstehen, was die Digitalisierung mit uns macht oder besser: was wir im Zuge der Digitalisierung mit uns selbst machen oder machen lassen.

MANUELA LENZEN

Peter Seele: "Künstliche Intelligenz und Maschinisierung des Menschen".

Herbert von Halem Verlag, Köln 2020. 200 S., br., 21,- [Euro].

Alle Rechte vorbehalten. © F.A.Z. GmbH, Frankfurt am Main

Schließen

Perlentaucher-Notiz zur F.A.Z.-Rezension

Manuela Lenzen lässt sich von Peter Seele vorführen, wie weit Chatbots von der Raffinesse menschlicher Kommunikation entfernt sind. Für Lenzen amüsant zu lesen, wenn Seele sein "intelligentes" künstliches Sprachsystem nach Augustinus fragt. Den Nimbus der KI kann Seele so und unter Hinweis auf all die Rassismen und Sexismen in der künstlich generierten Kommunikation natürlich spielend beschädigen, meint Lenzen. Die Geduld und Frustrationstoleranz des Autors scheint Lenzen bewundernswert.

© Perlentaucher Medien GmbH