Hannah Fry

Gebundenes Buch

Hello World

Was Algorithmen können und wie sie unser Leben verändern

Übersetzer: Schmid, Sigrid

Beschreibung

Sie sind eines Verbrechens angeklagt. Wer soll über Ihr Schicksal entscheiden? Ein menschlicher Richter oder ein Computer-Algorithmus? Sie sind sich absolut sicher? Sie zögern womöglich? In beiden Fällen sollten Sie das Buch der jungen Mathematikerin und Moderatorin Hannah Fry lesen, das mit erfrischender Direktheit über Algorithmen aufklärt, indem es von Menschen handelt. Algorithmen prägen in wachsendem Ausmaß den Alltag von Konsum, Finanzen, Medizin, Polizei, Justiz, Demokratie und sogar Kunst. Sie sortieren die Welt für uns, eröffnen neue Optionen und nehmen uns Entscheidungen ab - schnell, effektiv, gründlich. Aber sie tun das, ohne zu fragen, und stellen uns vor neue Dilemmata. Vor allem jedoch: Wir neigen dazu, Algorithmen als eine Art Autorität zu betrachten. statt ihre Macht infrage zu stellen.

Keine Dimension unserer Welt, in der sie nicht längst Einzug gehalten haben: Algorithmen, diese unscheinbaren Folgen von Anweisungen, die im Internet sowieso, aber auch in jedem Computerprogramm tätig sind, prägen in wachsendem, beängstigendem Ausmaß den Alltag von Konsum, Finanzen, Medizin, Polizei, Justiz, Demokratie und sogar Kunst. Sie sortieren die Welt für uns, eröffnen neue Optionen und nehmen uns Entscheidungen ab - schnell, effektiv, gründlich. Aber sie tun das häufig, ohne uns zu fragen, und sie stellen uns vor neue, keineswegs einfach zu lösende Dilemmata. Vor allem aber: Wir neigen dazu, Algorithmen als eine Art Autorität zu betrachten, statt ihre Macht in Frage zu stellen. Das öffnet Menschen, die uns ausbeuten wollen, Tür und Tor. Es verhindert aber auch, dass wir bessere Algorithmen bekommen. Solche, die uns bei Entscheidungen unterstützen, anstatt über uns zu verfügen. Die offenlegen, wie sie zu einer bestimmten Entscheidung gelangen. Demokratische, menschliche Algorithmen. Dafür plädiert dieses Buch - zugänglich, unterhaltsam, hochinformativ.

Autor

Hannah Fry ist Professorin für Mathematik am University College London und erforscht mithilfe mathematischer Modelle Muster menschlichen Verhaltens im städtischen Raum. Sie hat mit Verwaltungen, Polizei, Gesundheitsexperten und Supermarktketten zusammengearbeitet und an wissenschaftlichen Fernsehdokumentationen und Podcasts mitgewirkt. Die Zahl der Aufrufe ihrer TED-Talks geht in die Millionen.

Produktdetails

• Verlag: Beck
• Originaltitel: Hello World. How to Be Human in the Age of Machine
• 3. Aufl.
• Seitenzahl: 272
• Erscheinungstermin: 14. März 2019
• Deutsch
• Abmessung: 221mm x 141mm x 27mm
• Gewicht: 476g
• ISBN-13: 9783406732195
• ISBN-10: 3406732194
• Artikelnr.: 54488336

Rezensionen

Frankfurter Allgemeine Zeitung | Besprechung von 11.06.2019

Das Nonnen-Experiment
Was Algorithmen können und dürfen

Die britische Mathematikerin Hannah Fry will mit ihrem Buch "Hello World" erklären, was Algorithmen tatsächlich können und wie sie unser Leben verändern. Auf schnell zu lesenden 272 Seiten gelingt ihr das recht gut, wobei ihr auch mal ein Fehler unterläuft: So ist die Aussage falsch, dass in Berlin "die Menschenmengen in den Bahnhöfen mit Algorithmen zur Gesichtserkennung überwacht werden". Tatsächlich gab es bislang ein einziges Pilotprojekt an einem einzigen Bahnhof (Südkreuz) und das auch nur ein Jahr lang.

Anders sieht es in den Vereinigten Staaten von Amerika aus: Dort werden Algorithmen teilweise großflächig eingesetzt, auch bei der

Strafzumessung: "Ziel ist es, die Wahrscheinlichkeit zu berechnen, dass ein Angeklagter innerhalb von zwei Jahren wieder straffällig wird. Bei dieser Aufgabe erreichte der eingesetzte Algorithmus eine Präzisionsrate von 70 Prozent." Das würde in Europa nicht ausreichen, um als seriös zu gelten, und führt in den Vereinigten Staaten zu kuriosen Ergebnissen: So hatte der Angeklagte Christopher Drew Brooks als 19 Jahre alter Mann einvernehmlichen Sex mit einer Minderjährigen. Staatsanwaltschaft und Verteidiger einigten sich auf ein geringes Strafmaß, da beide meinten, dass eine lange Haftstrafe nicht die beste Vorgehensweise sei.

Der Richter ignorierte den Deal und vertraute dem Algorithmus, der eine längere Haftzeit empfahl. Der Algorithmus berücksichtigte dabei das Alter bei der Berechnung der Rückfallquote. Wäre Brooks 36 Jahre alt gewesen (und das Mädchen weiterhin minderjährig), hätte der Algorithmus empfohlen, ihn überhaupt nicht ins Gefängnis zu schicken.

Andere Algorithmen wollen erkennen können, wie hoch das Demenzrisiko einer Person ist, und zwar anhand von Aufsätzen, die jemand im Alter von 22 Jahren geschrieben hat. Dafür wurde ein Test mit einigen Hundert Nonnen in Kentucky gemacht, die älter als 70 Jahre alt waren. Da keine von ihnen Kinder hatte, rauchte oder trank, konnten die Wissenschaftler viele Faktoren ausschließen, die im Verdacht stehen, das Risiko einer Alzheimer-Erkrankung zu erhöhen.

Zudem hatten alle Nonnen einen ähnlichen Lebensstil und gleichen Zugang zu ärztlicher Versorgung. Im Alter von 22 Jahren hatte jede von ihnen einen Aufsatz geschrieben, weshalb sie in das Kloster eintreten wolle. Hier ein Satzbeispiel einer Nonne, die bis an ihr Lebensende über hervorragende kognitive Fähigkeiten verfügte: "Nachdem ich die achte Klasse beendet hatte, wollte ich Aspirantin in Mankato werden, aber ich selbst hatte nicht den Mut, meine Eltern um Erlaubnis zu bitten, also tat Schwester Agreda es für mich, und sie gaben bereitwillig ihre Zustimmung." Zum Vergleich dazu ein Satz einer Nonne, deren Erinnerungsvermögen in ihren letzten Lebensjahren stetig abnahm: "Nachdem ich die Schule verlassen hatte, arbeitete ich bei der Post."

Neunzig Prozent der Nonnen, die Alzheimer bekamen, hatten als junge Frauen nur geringe sprachliche Fähigkeiten. "Interessant ist, dass sich unauffällige Hinweise auf unsere zukünftige Gesundheit in den kleinsten Datenfragmenten verbergen können, wo man sie nicht erwartet - und zwar viele Jahre bevor die ersten Symptome einer Krankheit auftreten", schreibt Fry: "Vielleicht werden Algorithmen eines Tages sogar in der Lage sein, Anzeichen für Krebs aufzuspüren, Jahre bevor Ärzte sie wahrnehmen."

Fry nennt viele weitere Beispiele und erklärt auch, weshalb es Algorithmen so schwerfällt, vorab zu erkennen, ob ein Film populär wird. (Es fehle an einem objektiven Maßstab für Qualität.) Vor allem aber schreibt Fry: "Algorithmen machen Fehler. Sie sind ungerecht." Gleichzeitig seien sie unverzichtbar und oft hilfreich. Es brauche eine sinnvolle Regulierung. Und genau dazu hat Mario Martini von der Deutschen Universität für Verwaltungswissenschaften Speyer nun Vorschläge vorgelegt.

In seinem Werk "Blackbox Algorithmus" entwirft er wichtige Grundlagen einer Regulierung Künstlicher Intelligenz. Das Buch ist aus dem Drittmittelprojekt "Algorithmenkontrolle im Internet der Dinge" hervorgegangen, das das Bundesjustizministerium gefördert hat. Martini schreibt, dass nur 10 Prozent der Deutschen wissen, wie Algorithmen funktionieren. Es handele sich dabei um "Schritt-für-Schritt-Anleitungen, um ein (mathematisches) Problem strukturiert zu lösen." Zu den häufigsten Aufgaben gehöre es, in Datenmengen zu suchen und Daten zu sortieren. Ihre Treffsicherheit gründe aber nicht allein auf fortgeschrittener Mathematik und logischen Schlüssen. Algorithmen codierten auch die subjektiven Vorstellungen ihrer Schöpfer. Sie seien daher nur so diskriminierungsfrei wie die Menschen, die sie entwickeln.

Martini fordert eine staatlich initiierte "Stiftung Datentest" und eine "Datenschutzampel", die Verbraucher über mögliche Gefährdungen ihrer Privatsphäre informiert. "Um das Innovationspotential nicht auszubremsen, sollte der Gesetzgeber seine regulatorischen Zügel aber auch nicht zu straff anziehen", fordert der Jurist. So seien generelle Transparenzpflichten, etwa den Quellcode offenzulegen, nicht zielführend. Der Gesetzgeber müsse - ähnlich wie im Medizinprodukte-Recht -- ein gestuftes, nach Gefährdungsgrad ausdifferenziertes Risikoklassensystem entwickeln, um die regulatorischen Vorgaben "einzelfallspezifisch zu konkretisieren". Dazu macht Martini viele gute Vorschläge, die neben präventiven Maßnahmen wie Transparenzanforderungen, begleitende Kontrollen mit Mitwirkungspflichten und nachträglicher Haftung auch eine regulierte Selbstregulierung umfasst.

All das könne nur europaweit geschehen. "Im Idealfall avancieren klare unionale Standards zum Standortvorteil, um eine frühzeitige, rechtssichere und ethisch vertretbare Wertschöpfung mit digitalen Technologien sicherzustellen."

JOCHEN ZENTHÖFER.

Hannah Fry: Hello World. C.H. Beck, München 2019. 272 Seiten. 19,95 Euro.

Mario Martini: Blackbox Algorithmus. Springer, Berlin 2019. 400 Seiten. 109,99 Euro.

Alle Rechte vorbehalten. © F.A.Z. GmbH, Frankfurt am Main

Perlentaucher-Notiz zur Dlf Kultur-Rezension

Rezensentin Kim Kindermann kann dieses Buch der britischen Mathematikerin Hanna Fry unbedingt empfehlen - auch wenn sie hier keine letztgültigen Antworten zur Prägung der Gesellschaft durch Algorithmen erhält. Macht aber nichts, meint die Kritikerin, denn  Fry stellt nicht nur die richtigen Fragen, sondern lädt auch zu einem "unterhaltsamen" Streifzug durch digitale Welten ein, so  Kindermann weiter, die hier etwa nachliest, wie Mammographie-Screenings funktionieren oder wie Algorithmen im Rechtssystem eingesetzt werden.

© Perlentaucher Medien GmbH

"Ein definitiv klüger machendes Buch, dem man nur eine weite Verbreitung wünschen kann, betrifft es doch ein Thema, das zwar nicht so offensichtlich ist, dennoch fast jeden Menschen beeinflusst.
Mittelbayerische Zeitung

"Die Mathematikerin (schildert) anhand von anschaulichen Anekdoten, wie Algorithmen arbeiten und was ihre Ergebnisse aussagen können.
Berliner Morgenpost
"Ein relativ kurzes, aber ungemein gehaltvolles Werk
Handelsblatt.com, Giersch, Thorsten

"Regt zum Nachdenken an und präsentiert sinnvolle Forderungen.
Neue Zürcher Zeitung, Matthias Sander

"Hannah Fry zeigt in unaufgeregtem Ton Chancen und Risiken auf und liefert einen

erstklassigen Überblick für die, die über dieses Thema Bescheid wissen sollten, also: für uns alle.
Brigitte

"Ein spannendes Buch über die Frage, wie sehr uns Technik verändert und wie sehr wir das wollen.
emotion

"Gut verständlich und nicht zu technisch."
ZEIT WISSEN, Niels Boeing

"Eine sehr gute und topaktuelle Einordnung, die für den Laien genauso aufschlussreich ist, wie für den internetaffinen Leser.
Buchkultur, Thomas Feibel

"Nimmt () die Vermittlungsaufgabe einer besonders abstrakten Wissenschaft an die größere Öffentlichkeit zugleich ernst und mit Humor.
Süddeutsche Zeitung, Eva Weber-Guskar

"Hannah Fry hat den Durchblick () und vermittelt ihr Wissen ohne Wissenschaftsdünkel, verständlich und hochspannend () Sie fördert () manches Kuriosum zutage und lässt sich einen humoristischen Einschlag nicht nehmen.
Galore, Marina Mucha

"Voller Beispiele und deshalb ausgesprochen unterhaltsam zu lesen.
Deutschlandfunk Kultur, Volkart Wildermuth

"Ein kluges Buch.
SPIEGEL, Ann-Kathrin Nezik

"Ein gelungenes Stück Aufklärung über eine Entwicklung, die alle angeht () besser mitreden kann, wer dieses Buch gelesen hat.
Frankfurter Allgemeine Zeitung, Alexander Armbruster

"Klug, pointiert und witzig geschrieben. Eine perfekte Anleitung für das Leben im Zeitalter der Sozialen Medien, der Algorithmen und der Automatisierung."
Adam Rutherford

"Dieses Buch beweist, warum gute Wissenschaftsautoren so wichtig sind."
Katy Guest, The Guardian