Stuart Russell

Human Compatible (eBook, ePUB)

Künstliche Intelligenz und wie der Mensch die Kontrolle über superintelligente Maschinen behält

• Format: ePub

Produktbeschreibung

»Das bedeutendste Buch über KI in diesem Jahr.« - THE GUARDIAN, 24.10.2019

Werden Maschinen bald auf nahezu allen Gebieten intelligenter sein als der Mensch? Auch wenn dies vielversprechend klingt, ist die Entwicklung einer Superintelligenz zugleich ein ernstzunehmendes Risiko. Denn ist diese einmal da, können wir nicht mehr einfach den Stecker ziehen.

Niemand kann die Chancen und Risiken der künstlichen Intelligenz besser beurteilen als Stuart Russell, der seit mehr als einer Dekade an vorderster Front der KI-Forschung arbeitet. Er veranschaulicht mit brillanten Analogien, wie sich natürliche und künstliche Intelligenz voneinander unterscheiden, und macht deutlich, dass wir vermeiden müssen, dass die Maschinen für uns unkontrollierbar werden.

Fundiert, eindringlich und visionär zeigt Human Compatible neue Perspektiven und Lösungswege für die KI-Forschung auf, um zu gewährleisten, dass superintelligente Maschinen unsere Ziele verfolgen und nicht ihre eigenen.

Stimmen zum Buch:

»Dank Russell habe ich erkannt, dass unsere Fähigkeit, superintelligente Maschinen zu kontrollieren, begrenzt ist. [...] Sein neues Buch wird das Thema KI der breiten Öffentlichkeit zugänglich machen, mehr als jedes andere Buch, das ich kenne.« - JUDEA PEARL, Turing-Award-Gewinner und Autor von The Book of Why

»Dieses wundervoll geschriebene Buch thematisiert eine grundlegende Herausforderung für die Menschheit: zunehmend intelligente Maschinen, die tun, was wir von ihnen verlangen, aber nicht, was wir tatsächlich wollen. Eine unverzichtbare Lektüre, wenn Sie sich für unsere Zukunft interessieren.« - YOSHUA BENGIO, Gewinner des Turing Award 2018 und Co-Autor von Deep Learning. Das umfassende Handbuch

Stuart Russell ist Professor für Informatik an der University of California, Berkeley. Er war stellvertretender Vorsitzender des Rats für künstliche Intelligenz und Robotik des Weltwirtschaftsforums und Berater für die Rüstungskontrolle der Vereinten Nationen.

---

Dieser Download kann aus rechtlichen Gründen nur mit Rechnungsadresse in A, B, BG, CY, CZ, D, DK, EW, E, FIN, F, GR, HR, H, IRL, I, LT, L, LR, M, NL, PL, P, R, S, SLO, SK ausgeliefert werden.

Produktdetails

• Verlag: mitp Verlags GmbH & Co. KG
• Seitenzahl: 376
• Erscheinungstermin: 30. Juni 2020
• Deutsch
• ISBN-13: 9783747501757
• Artikelnr.: 59648239

Autorenporträt

Stuart Russell ist Professor für Informatik an der University of California, Berkeley. Er war stellvertretender Vorsitzender des Rats für künstliche Intelligenz und Robotik des Weltwirtschaftsforums und Berater für die Rüstungskontrolle der Vereinten Nationen.

Rezensionen

Perlentaucher-Notiz zur F.A.Z.-Rezension

Rezensent Oliver Jungen schätzt Stuart Russell als Praktiker der KI mit einem gesunden Verständnis der Vor- und Nachteile hochintelligenter Maschinen. Dass Russell kein prinzipieller Gegner seines Fachs ist, sondern Gefahren gegen Nutzen abwiegt, aber auch sein Erstaunen über die Verharmlosung von Gefahren im Zusammenhang mit der KI nicht verbirgt, gefällt Jungen. Russells Vorschläge für eine "humankompatible" KI, die eine bessere Regulierung der Sicherheit enthielte, sind für Jungen der Kern des "etwas sprunghaft strukturierten" Buches.

© Perlentaucher Medien GmbH

Frankfurter Allgemeine Zeitung | Besprechung von 04.08.2020

Demütig sollen die Maschinen sein
Ohne Sicherheitsnetz sind wir erledigt: Stuart Russell formuliert Prinzipien für eine gebändigte Künstliche Intelligenz

"Es braucht nicht viel Vorstellungskraft, um zu erkennen, dass es vielleicht keine so gute Idee ist, etwas zu erschaffen, das klüger ist als man selbst." Was so lapidar klingt in den Worten des britischen Informatikers Stuart Russell, der an der University of California lehrt und zu den führenden Forschern auf dem Gebiet der Künstlichen Intelligenz (KI) zählt, hat die Imagination von Künstlern stark befeuert. In unzähligen Romanen und Filmen entwickeln intelligente Maschinen ein Bewusstsein und greifen nach der Weltherrschaft. Auch Philosophen wie John Searle haben sich früh für die KI interessiert, aber vor allem philosophische Antworten gefunden: Anders als die schwache (und problemlose) KI, die menschliches Verhalten simuliere, sei eine starke KI gar nicht möglich, weil Computerprogramme niemals intentionale Zustände und damit Verstehen aufweisen könnten.

Sich damit heute noch zu bescheiden, wirkt allerdings waghalsig. Man sollte wohl stärker auf Praktiker wie Russell hören, die auf der Grundlage eines technischen Verständnisses der KI zwar alle Bewusstseins-Phantastereien zurückweisen, aber inzwischen Alarm schlagen. Denn Maschinenintelligenz habe "die Macht, die Welt neu zu formen", auch zu unserem Nachteil.

Das "auch" ist hier entscheidend, denn Russell ist alles andere als ein prinzipieller Gegner seines eigenen Fachs. Vielmehr gibt er sich überzeugt, dass intelligente Maschinen in einigen Jahrzehnten in Medizin, Wissenschaft, Umweltschutz oder Bildung von enormem Vorteil sein werden. Mit der Methode des probabilistischen Schließens sei man der sich selbst perfektionierenden "Superintelligenz" einen großen Schritt näher gekommen. Das berge freilich Gefahren wie unwiderlegbare Deepfakes, perfekte Überwachungen, gänzlich autonome Waffensysteme, menschliche Kompetenzverluste (weil die Maschine alles besser weiß und kann) oder drohende Massenarbeitslosigkeit.

Ganz ähnlich hat schon der Technikphilosoph Nick Bostrom Nutzen und Risiken der modernen KI abgewogen. Russell ist erstaunt, dass in der KI-Community ansonsten die Gefahren oft verharmlost werden, während "Anti-Maschinisten" gleich die KI-Forschung beenden wollten: eine fatale Pattsituation. Dabei befänden wir uns nun im letzten Zeitfenster, in dem das Einziehen eines Sicherheitsnetzes noch möglich sei. Wer eine hochintelligente Black-Box-Maschine im Nachhinein kontrollieren wolle, sei "erledigt". Schon heute hätten Empfehlungsalgorithmen entdeckt, dass sich Klickraten besser damit optimieren lassen, die Vorlieben der Nutzer zu ändern, als sie zu erfüllen. Russel fragt: "Wozu ist dann erst ein wirklich intelligenter Algorithmus in der Lage?"

Die Vorschläge für eine humankompatible KI machen den eigentlichen Wert des etwas sprunghaft strukturierten Buchs aus. Russell plädiert für eine Abkehr vom bislang gültigen "Standardmodell" im Bereich des Maschinenlernens. Seit Beginn der KI-Forschung werde "Intelligenz" von Maschinen danach definiert, wie sehr ihre Handlungen darauf ausgerichtet sind, vorgegebene Ziele zu erreichen. Das führe bei hinreichend mächtigen Maschinen (sie haben große Mengen an Wissen erfasst) zu massiven Problemen, wie schon ein alltagsnahes Beispiel zeigt. So könne ein Haushaltsroboter, der den Kindern ein Abendessen kochen soll, aber einen leeren Kühlschrank vorfindet, die Familienkatze entdecken, deren Nährwert ihm bekannt ist.

Zudem würden hochintelligente Maschinen - ganz logisch - ihre Abschaltung deaktivieren. Russell will daher die KI "neu denken", so nämlich, dass die Ziele der Maschine mit Sicherheit den unsrigen in all ihrer Vielgestalt und Unklarheit entsprechen. Solche Maschinen müssten Testläufe durchführen, sich korrigieren und abschalten lassen. Sie blieben uns "untertan". Russell deutet zumindest an, wie sich dieses Verhalten implementieren ließe.

Wichtiger ist hier, welche Leitprinzipien für eine solche "nachweislich vorteilhafte KI" gelten. Es sind nur drei: Die Maschine habe einzig das Ziel, die Verwirklichung menschlicher Präferenzen zu maximieren, sei also "altruistisch"; der Selbstschutz der Maschine bleibt untergeordnet. Womit KI heute die größte Schwierigkeit hat, ist aber gerade, menschliche Entscheidungen vorherzusagen, was daran liegt, dass wir nicht rational handeln und sich unsere Präferenzen individuell unterscheiden und wandeln. Diese Unsicherheit wird zum Schlüssel der "demütigen" Maschine. Laut dem zweiten Prinzip müsse ihr die Mutmaßung einprogrammiert sein, dass ihre Vorhersagen falsch sein können. So werden Rückfragen konstitutiv, und die Abschaltmöglichkeit erhält einen positiven Anreiz - sonst verstieße die Maschine gegen Prinzip eins. Das dritte Prinzip besagt, dass als Quelle für menschliche Präferenzen das gesamte menschliche Verhalten diene. Dadurch würden die Vorhersagen genauer, ohne dass die Maschine die hyperkomplexe, emotional verzerrte menschliche Entscheidungsfindung nachbilden müsste. Russell ist Optimist genug, um anzunehmen, dass in der Menschheit nicht die boshaft-verbrecherischen Entscheidungen dominieren.

Um das Risiko eines Missbrauchs durch übelwollende Individuen sowie die Gefahr, dass Maschinen ihre Umgebung (also uns) manipulieren, zu minimieren, wäre für den Autor in erster Linie eine viel strengere Regulierung der KI-Sicherheit wünschenswert, so laut der Aufschrei aus dem Silicon Valley auch werde. Als ultimatives Sicherungsinstrument akzeptiert Russell den Vorschlag Nick Bostroms, den von großen Konsortien nach obigem Modell entwickelten Super-KI-Systemen ein Feature zum Aufspüren und Zerstören böswilliger, pandemischer KI-Systeme einzuprogrammieren. Deutlich jedenfalls wird: Es ist höchste Zeit, um unseren Platz in der Evolution zu kämpfen.

OLIVER JUNGEN

Stuart Russell: "Human Compatible". Künstliche

Intelligenz und wie der Mensch die Kontrolle über superintelligente

Maschinen behält.

Aus dem Englischen von G. Lenz. mitp Verlag, Frechen 2020. 376 S., br., 28,- [Euro].

Alle Rechte vorbehalten. © F.A.Z. GmbH, Frankfurt am Main

»In "Human Compatible" stellt Stuart Russell neue Perspektiven und Lösungswege zur Erforschung der künstlichen Intelligenz vor. Er ist der Ansicht, dass die Entwicklung der Superintelligenz ein ernstzunehmendes Risiko ist, da die Menschen nicht genügend Fähigkeiten haben, um die superintelligenten Maschinen zu kontrollieren.« (gq-magazin.de, 09/2021)
»Wer Stuart Russels Human Compatible liest, bekommt drei Dinge: Eine Geschichte der Entwicklung der Künstlichen Intelligenz (KI); eine Analyse des Standes dieser Technologie; einen Vorschlag, wie KI so gestaltet werden kann, dass sie für uns Menschen sicher ist.« (Pro Zukunft Buchmagazin, Nr.2/2021)
»Stuart Russell zeigt in seinem Buch Perspektiven und Lösungswege auf, um sicherzustellen, dass die KI ein Gewinn und keine Gefahr für den Menschen wird. [...] Dabei werden detailliert alle Seiten beleuchtet und keine zu starre Meinung eingenommen.« (iqhaus.de, 11/2020)
»Das Buch des renommierten KI-Forschers verspricht auf jeden Fall ausreichend Stoff für eine kritische Lektüre.« (openta.net, 10/2020)
»[Stuart Russell] hat nun in einem umfangreichen Werk, das glücklicherweise jetzt auch in deutscher Sprache vorliegt, die kritischen Fragen zur KI und KI-Entwicklung eindrucksvoll zusammengestellt und - in typisch amerikanischer, gut lesbarer Wissenschaftserzählsprache - kommentiert.« (Website Boosting, Nr. 11-12/2020)
»Der Autor, der seit langem intensiv im Bereich der KI-Forschung tätig ist, stellt bisher bekannte Theorien gegenüber und bietet interessante Lösungsansätze. [...] Mit fundiertem Wissen, optimistisch und mit zahlreichen Beispielen und Experimenten nimmt er seine Leser mit in eine Welt, die wir eher mit Science Fiction verbinden.« (blog.materna.de, 08/2020)
»[Der Autor] macht deutlich, wie sich natürliche und künstliche Intelligenz unterscheiden und wie die Menschheit vermeiden kann, dass Maschinen für sie unkontrollierbar werden. [Das Buch ist] didaktisch gut aufgebaut. Sehr hilfreich sind auch zahlreiche kapitelweise gegliederte Anmerkungen am Schluss sowie die Erläuterungen der Grundkonzepte der KI in mehreren Anhängen.« (ekz-Bibliotheksservice, 08/2020)
»Stuart Russel analysiert die aktuellen Ansätze und ihre möglichen Effekte. Und er tut das in einer sehr systematischen und verständlichen Weise, die es auch weniger bewanderten Lesern leicht macht, die Problemstellung zu verstehen und die Problemlösung nachzuvollziehen. Allein diese klare Analyse macht das Buch schon lesenswert - der zudem aufgezeigte Ausweg ist da fast schon das Sahnehäubchen und liefert gute Ansätze, die Diskussion um Gefahren einer unkontrollierbaren KI nicht bloß zu beruhigen, sondern in eine nachhaltig konstruktive Richtung zu lenken.« (cafm-news.de, 08/2020)
»[Das Buch] betrachtet KI realistisch und kritisch und zeigt neue Perspektiven, Chancen sowie Lösungswege für die KI-Forschung auf.« (ind-ai.net, 08/2020)
»Ohne Sicherheitsnetz sind wir erledigt: Stuart Russell formuliert Prinzipien für eine gebändigte Künstliche Intelligenz. [...] Die Vorschläge für eine humankompatible KI machen den eigentlichen Wert des Buches aus. [...] Es ist höchste Zeit, um unseren Platz in der Evolution zu kämpfen.« (FAZ, 04.08.2020)
»Das Buch richtet sich an alle interessierten Leser sowie Spezialisten der künstlichen Intelligenz.« (SPS Magazin, Nr. 7/2020)