Hannah Fry

Hello World

Was Algorithmen können und wie sie unser Leben verändern
Übersetzer: Schmid, Sigrid

• Gebundenes Buch

Produktbeschreibung

ZUGÄNGLICH, UNTERHALTSAM UND HÖCHST INFORMATIV

Sie sind eines Verbrechens angeklagt. Wer soll über Ihr Schicksal entscheiden? Ein menschlicher Richter oder ein Computer-Algorithmus? Sie sind sich absolut sicher? Sie zögern womöglich? In beiden Fällen sollten Sie das Buch der jungen Mathematikerin und Moderatorin Hannah Fry lesen, das mit erfrischender Direktheit über Algorithmen aufklärt, indem es von Menschen handelt. Algorithmen prägen in wachsendem Ausmaß den Alltag von Konsum, Finanzen, Medizin, Polizei, Justiz, Demokratie und sogar Kunst. Sie sortieren die Welt für uns, eröffnen neue Optionen und nehmen uns Entscheidungen ab - schnell, effektiv, gründlich. Aber sie tun das, ohne zu fragen, und stellen uns vor neue Dilemmata. Vor allem jedoch: Wir neigen dazu, Algorithmen als eine Art Autorität zu betrachten. statt ihre Macht infrage zu stellen.

Keine Dimension unserer Welt, in der sie nicht längst Einzug gehalten haben: Algorithmen, diese unscheinbaren Folgen von Anweisungen, die im Internet sowieso, aber auch in jedem Computerprogramm tätig sind, prägen in wachsendem, beängstigendem Ausmaß den Alltag von Konsum, Finanzen, Medizin, Polizei, Justiz, Demokratie und sogar Kunst. Sie sortieren die Welt für uns, eröffnen neue Optionen und nehmen uns Entscheidungen ab - schnell, effektiv, gründlich. Aber sie tun das häufig, ohne uns zu fragen, und sie stellen uns vor neue, keineswegs einfach zu lösende Dilemmata. Vor allem aber: Wir neigen dazu, Algorithmen als eine Art Autorität zu betrachten, statt ihre Macht in Frage zu stellen. Das öffnet Menschen, die uns ausbeuten wollen, Tür und Tor. Es verhindert aber auch, dass wir bessere Algorithmen bekommen. Solche, die uns bei Entscheidungen unterstützen, anstatt über uns zu verfügen. Die offenlegen, wie sie zu einer bestimmten Entscheidung gelangen. Demokratische, menschliche Algorithmen. Dafür plädiert dieses Buch - zugänglich, unterhaltsam, hochinformativ.

Produktdetails

• Verlag: Beck
• Originaltitel: Hello World. How to Be Human in the Age of Machine
• 3. Aufl.
• Seitenzahl: 272
• Erscheinungstermin: 14. März 2019
• Deutsch
• Abmessung: 221mm x 141mm x 27mm
• Gewicht: 476g
• ISBN-13: 9783406732195
• ISBN-10: 3406732194
• Artikelnr.: 54488336

Autorenporträt

Hannah Fry ist Professorin für Mathematik am University College London und erforscht mithilfe mathematischer Modelle Muster menschlichen Verhaltens im städtischen Raum. Sie hat mit Verwaltungen, Polizei, Gesundheitsexperten und Supermarktketten zusammengearbeitet und an wissenschaftlichen Fernsehdokumentationen und Podcasts mitgewirkt. Die Zahl der Aufrufe ihrer TED-Talks geht in die Millionen.

Rezensionen

Frankfurter Allgemeine Zeitung | Besprechung von 11.06.2019

Das Nonnen-Experiment
Was Algorithmen können und dürfen

Die britische Mathematikerin Hannah Fry will mit ihrem Buch "Hello World" erklären, was Algorithmen tatsächlich können und wie sie unser Leben verändern. Auf schnell zu lesenden 272 Seiten gelingt ihr das recht gut, wobei ihr auch mal ein Fehler unterläuft: So ist die Aussage falsch, dass in Berlin "die Menschenmengen in den Bahnhöfen mit Algorithmen zur Gesichtserkennung überwacht werden". Tatsächlich gab es bislang ein einziges Pilotprojekt an einem einzigen Bahnhof (Südkreuz) und das auch nur ein Jahr lang.

Anders sieht es in den Vereinigten Staaten von Amerika aus: Dort werden Algorithmen teilweise großflächig eingesetzt, auch bei der Strafzumessung: "Ziel ist es, die Wahrscheinlichkeit zu berechnen, dass ein Angeklagter innerhalb von zwei Jahren wieder straffällig wird. Bei dieser Aufgabe erreichte der eingesetzte Algorithmus eine Präzisionsrate von 70 Prozent." Das würde in Europa nicht ausreichen, um als seriös zu gelten, und führt in den Vereinigten Staaten zu kuriosen Ergebnissen: So hatte der Angeklagte Christopher Drew Brooks als 19 Jahre alter Mann einvernehmlichen Sex mit einer Minderjährigen. Staatsanwaltschaft und Verteidiger einigten sich auf ein geringes Strafmaß, da beide meinten, dass eine lange Haftstrafe nicht die beste Vorgehensweise sei.

Der Richter ignorierte den Deal und vertraute dem Algorithmus, der eine längere Haftzeit empfahl. Der Algorithmus berücksichtigte dabei das Alter bei der Berechnung der Rückfallquote. Wäre Brooks 36 Jahre alt gewesen (und das Mädchen weiterhin minderjährig), hätte der Algorithmus empfohlen, ihn überhaupt nicht ins Gefängnis zu schicken.

Andere Algorithmen wollen erkennen können, wie hoch das Demenzrisiko einer Person ist, und zwar anhand von Aufsätzen, die jemand im Alter von 22 Jahren geschrieben hat. Dafür wurde ein Test mit einigen Hundert Nonnen in Kentucky gemacht, die älter als 70 Jahre alt waren. Da keine von ihnen Kinder hatte, rauchte oder trank, konnten die Wissenschaftler viele Faktoren ausschließen, die im Verdacht stehen, das Risiko einer Alzheimer-Erkrankung zu erhöhen.

Zudem hatten alle Nonnen einen ähnlichen Lebensstil und gleichen Zugang zu ärztlicher Versorgung. Im Alter von 22 Jahren hatte jede von ihnen einen Aufsatz geschrieben, weshalb sie in das Kloster eintreten wolle. Hier ein Satzbeispiel einer Nonne, die bis an ihr Lebensende über hervorragende kognitive Fähigkeiten verfügte: "Nachdem ich die achte Klasse beendet hatte, wollte ich Aspirantin in Mankato werden, aber ich selbst hatte nicht den Mut, meine Eltern um Erlaubnis zu bitten, also tat Schwester Agreda es für mich, und sie gaben bereitwillig ihre Zustimmung." Zum Vergleich dazu ein Satz einer Nonne, deren Erinnerungsvermögen in ihren letzten Lebensjahren stetig abnahm: "Nachdem ich die Schule verlassen hatte, arbeitete ich bei der Post."

Neunzig Prozent der Nonnen, die Alzheimer bekamen, hatten als junge Frauen nur geringe sprachliche Fähigkeiten. "Interessant ist, dass sich unauffällige Hinweise auf unsere zukünftige Gesundheit in den kleinsten Datenfragmenten verbergen können, wo man sie nicht erwartet - und zwar viele Jahre bevor die ersten Symptome einer Krankheit auftreten", schreibt Fry: "Vielleicht werden Algorithmen eines Tages sogar in der Lage sein, Anzeichen für Krebs aufzuspüren, Jahre bevor Ärzte sie wahrnehmen."

Fry nennt viele weitere Beispiele und erklärt auch, weshalb es Algorithmen so schwerfällt, vorab zu erkennen, ob ein Film populär wird. (Es fehle an einem objektiven Maßstab für Qualität.) Vor allem aber schreibt Fry: "Algorithmen machen Fehler. Sie sind ungerecht." Gleichzeitig seien sie unverzichtbar und oft hilfreich. Es brauche eine sinnvolle Regulierung. Und genau dazu hat Mario Martini von der Deutschen Universität für Verwaltungswissenschaften Speyer nun Vorschläge vorgelegt.

In seinem Werk "Blackbox Algorithmus" entwirft er wichtige Grundlagen einer Regulierung Künstlicher Intelligenz. Das Buch ist aus dem Drittmittelprojekt "Algorithmenkontrolle im Internet der Dinge" hervorgegangen, das das Bundesjustizministerium gefördert hat. Martini schreibt, dass nur 10 Prozent der Deutschen wissen, wie Algorithmen funktionieren. Es handele sich dabei um "Schritt-für-Schritt-Anleitungen, um ein (mathematisches) Problem strukturiert zu lösen." Zu den häufigsten Aufgaben gehöre es, in Datenmengen zu suchen und Daten zu sortieren. Ihre Treffsicherheit gründe aber nicht allein auf fortgeschrittener Mathematik und logischen Schlüssen. Algorithmen codierten auch die subjektiven Vorstellungen ihrer Schöpfer. Sie seien daher nur so diskriminierungsfrei wie die Menschen, die sie entwickeln.

Martini fordert eine staatlich initiierte "Stiftung Datentest" und eine "Datenschutzampel", die Verbraucher über mögliche Gefährdungen ihrer Privatsphäre informiert. "Um das Innovationspotential nicht auszubremsen, sollte der Gesetzgeber seine regulatorischen Zügel aber auch nicht zu straff anziehen", fordert der Jurist. So seien generelle Transparenzpflichten, etwa den Quellcode offenzulegen, nicht zielführend. Der Gesetzgeber müsse - ähnlich wie im Medizinprodukte-Recht -- ein gestuftes, nach Gefährdungsgrad ausdifferenziertes Risikoklassensystem entwickeln, um die regulatorischen Vorgaben "einzelfallspezifisch zu konkretisieren". Dazu macht Martini viele gute Vorschläge, die neben präventiven Maßnahmen wie Transparenzanforderungen, begleitende Kontrollen mit Mitwirkungspflichten und nachträglicher Haftung auch eine regulierte Selbstregulierung umfasst.

All das könne nur europaweit geschehen. "Im Idealfall avancieren klare unionale Standards zum Standortvorteil, um eine frühzeitige, rechtssichere und ethisch vertretbare Wertschöpfung mit digitalen Technologien sicherzustellen."

JOCHEN ZENTHÖFER.

Hannah Fry: Hello World. C.H. Beck, München 2019. 272 Seiten. 19,95 Euro.

Mario Martini: Blackbox Algorithmus. Springer, Berlin 2019. 400 Seiten. 109,99 Euro.

Alle Rechte vorbehalten. © F.A.Z. GmbH, Frankfurt am Main

Süddeutsche Zeitung | Besprechung von 29.03.2019

Mensch plus
Maschine
Hannah Fry erklärt, was
Algorithmen können
Im Weltraum wäre man womöglich nicht allzu überrascht, auf Darth Vader und Luke Skywalker aus „Star Wars“ zu treffen – in einem Buch einer Mathematikerin über Algorithmen ist man es durchaus. Später folgen Auftritte von Lady Gaga und Kim Kardashian. Auf Zahlen und Formeln hingegen wartet man vergeblich. Hier nimmt jemand die Vermittlungsaufgabe einer besonders abstrakten Wissenschaft an die größere Öffentlichkeit zugleich ernst und mit Humor. Hannah Fry, außerordentliche Professorin am University College London, forscht angewandter, als viele sich das bei Mathematik vorstellen würden. So hat sie etwa herausgefunden, dass „die Wahrscheinlichkeit, dass in einem Haus eingebrochen wird, höher ist, wenn das Haus an einer Straße steht, die ein Einbrecher regelmäßig benutzt“. Solche Ergebnisse sind Puzzleteile, die verwendet werden können, um Softwareprogramme für die Kriminalitätsbekämpfung zu entwickeln – sei es, um Anhaltspunkte dafür zu haben, wo als nächstes ein Verbrechen stattfinden könnte oder dafür, nach einem Verbrechen einen Täter ausfindig zu machen.
Software besteht aus Algorithmen und was Algorithmen sind, erklärt Fry zu Anfang von „Hello World“ im Plauderton, der schon im Titel anklingt, kurz und knapp: Anleitungen zur schrittweisen Erfüllung von spezifischen Aufgaben. Genauer sind es mathematische Objekte, die mathematische Operationen in Computercodes umwandeln, sodass Daten der realen Welt verarbeitet werden können. Dabei können vier Arten von Aufgaben erfüllt werden: Priorisierung (eine Rangliste anlegen), Klassifizierung (in Gruppen nach Kategorien einteilen), Kombination (Verbindungen finden) und Filterung (Relevantes heraussuchen). Schließlich gibt es, grob gesprochen, zwei Weisen, wie Algorithmen vorgehen: regelbasiert, also fest programmiert, oder selbstlernend, das heißt, sie werden auf Ziele hin trainiert, für die sie den besten Weg selbst finden müssen.
Die zweite Variante von Algorithmen als künstliche Intelligenz zu bezeichnen, hält Fry für irreführend. Angemessener sei es, von revolutionärer Computerstatistik zu sprechen. Diese nüchterne Einstellung passt gut zur gelassenen Haltung dieses Buches gegenüber einem Thema, das derzeit sonst für große Aufregung sorgt. Selbst die Versprechen von autonomen Fahrzeugen sind ihrer Meinung nach auf absehbare Zeit überzogen. Das heißt nicht, dass Fry keine Probleme in der Verwendung von Algorithmen sehen würde, aber diese sind klar umrissen, keine großen Dystopien.
Neue Methoden und Möglichkeiten bringen neue Fragen der Regulierung mit sich, das ist alles. Eine Reihe solcher Fragen veranschaulicht Fry anhand einer Fülle von ausführlichen (meist einschlägig bekannten) Anekdoten aus den Bereichen der Datensammlung, der Justiz, der Medizin, der Automobilität, der Kriminalität und schließlich der Kunst. Aufschlussreich wird es an den Stellen, an denen die eigentlich mathematische Dimension der Problematik herausgearbeitet wird. Hierbei kommen auch Vader und Luke ins Spiel. Mit ihnen veranschaulicht Fry falsch-negative Prognosen (die gravierende schlechte Folgen haben) und falsch-positive (die weniger gravierende Folgen haben) und warum man keine perfekt fairen Prognose-Algorithmen entwickeln kann.
Dies führe etwa zu der bereits vielfach kritisierten Diskriminierung schwarzer Straftäter bei der computergestützten Entscheidung über ihre Freilassung auf Kaution in den USA. Das Programm „PredPol“ zur Vorhersage von Verbrechen nennt Fry die Kim Kardashian der Algorithmen und Lady Gaga soll helfen, den Satz von Bayes zu verstehen. (Wie würden Sie vorgehen, wenn Ihr Gegenüber im Restaurant behaupten würde, am Tisch hinter Ihnen säße Lady Gaga? Sie würden all Ihr Wissen über Lady Gaga, dieses Restaurant und andere Weltumstände heranziehen, um zu beziffern, wie wahrscheinlich es ist, dass diese Behauptung zutrifft. Ein vergleichbares Vorgehen biete der Satz von Bayes in mathematischer Form.)
Dünn sind die Analysen da, wo es um normative Bewertungen geht oder bei komplexeren Begriffen des sozialen Zusammenlebens. Personalisierte Werbung, die einen im Internet verfolgt, und ähnliches hält sie für „gruselig“, medizinische Daten zu veröffentlichen für „instinktiv“ problematisch. Dem Budget-Tool einer Versicherung spricht sie „Macht“ über Bezugsberechtigten zu, obwohl seine Anwendung ganz unter der Kontrolle der Versicherungsleute steht.
Doch abschließend zu bewerten oder eindeutige Lösungen vorzuschlagen, ist ohnehin nicht das Anliegen der Autorin. Viele Kapitel enden mit aufrichtigen Fragen. Diese zu beantworten sei eine drängende Aufgabe für uns Menschen, um endlich solche Gesellschaften und soziale Praktiken zu haben, die wir haben wollen. Dafür, so deutet Fry optimistisch an, wäre der richtige Weg in den meisten Fällen nicht die Ersetzung von Menschen durch Maschinen, sondern eine Unterstützung der einen durch die anderen.
EVA WEBER-GUSKAR
Hannah Fry: Hello World. Was Algorithmen können und wie sie unser Leben verändern. Aus dem Englischen von Sigrid Schmid. Verlag C. H. Beck, München 2019. 272 Seiten, 19,95 Euro.
Mit Luke Skywalker und Darth
Vader veranschaulicht Fry
das Problem der Prognosen
DIZdigital: Alle Rechte vorbehalten – Süddeutsche Zeitung GmbH, München
Jegliche Veröffentlichung und nicht-private Nutzung exklusiv über www.sz-content.de

Perlentaucher-Notiz zur Dlf Kultur-Rezension

Rezensentin Kim Kindermann kann dieses Buch der britischen Mathematikerin Hanna Fry unbedingt empfehlen - auch wenn sie hier keine letztgültigen Antworten zur Prägung der Gesellschaft durch Algorithmen erhält. Macht aber nichts, meint die Kritikerin, denn  Fry stellt nicht nur die richtigen Fragen, sondern lädt auch zu einem "unterhaltsamen" Streifzug durch digitale Welten ein, so  Kindermann weiter, die hier etwa nachliest, wie Mammographie-Screenings funktionieren oder wie Algorithmen im Rechtssystem eingesetzt werden.

© Perlentaucher Medien GmbH

"Ein definitiv klüger machendes Buch, dem man nur eine weite Verbreitung wünschen kann, betrifft es doch ein Thema, das zwar nicht so offensichtlich ist, dennoch fast jeden Menschen beeinflusst."
Mittelbayerische Zeitung

"Die Mathematikerin (schildert) anhand von anschaulichen Anekdoten, wie Algorithmen arbeiten und was ihre Ergebnisse aussagen können."
Berliner Morgenpost
"Ein relativ kurzes, aber ungemein gehaltvolles Werk"
Handelsblatt.com, Giersch, Thorsten

"Regt zum Nachdenken an und präsentiert sinnvolle Forderungen."
Neue Zürcher Zeitung, Matthias Sander

"Hannah Fry zeigt in unaufgeregtem Ton Chancen und Risiken auf und liefert einen erstklassigen Überblick für die, die über dieses Thema Bescheid wissen sollten, also: für uns alle."
Brigitte

"Ein spannendes Buch über die Frage, wie sehr uns Technik verändert und wie sehr wir das wollen."
emotion

"Gut verständlich und nicht zu technisch."
ZEIT WISSEN, Niels Boeing

"Eine sehr gute und topaktuelle Einordnung, die für den Laien genauso aufschlussreich ist, wie für den internetaffinen Leser."
Buchkultur, Thomas Feibel

"Nimmt (...) die Vermittlungsaufgabe einer besonders abstrakten Wissenschaft an die größere Öffentlichkeit zugleich ernst und mit Humor."
Süddeutsche Zeitung, Eva Weber-Guskar

"Hannah Fry hat den Durchblick (...) und vermittelt ihr Wissen ohne Wissenschaftsdünkel, verständlich und hochspannend (...) Sie fördert (...) manches Kuriosum zutage und lässt sich einen humoristischen Einschlag nicht nehmen."
Galore, Marina Mucha

"Voller Beispiele und deshalb ausgesprochen unterhaltsam zu lesen."
Deutschlandfunk Kultur, Volkart Wildermuth

"Ein kluges Buch."
SPIEGEL, Ann-Kathrin Nezik

"Ein gelungenes Stück Aufklärung über eine Entwicklung, die alle angeht (...) besser mitreden kann, wer dieses Buch gelesen hat."
Frankfurter Allgemeine Zeitung, Alexander Armbruster

"Klug, pointiert und witzig geschrieben. Eine perfekte Anleitung für das Leben im Zeitalter der Sozialen Medien, der Algorithmen und der Automatisierung."
Adam Rutherford

"Dieses Buch beweist, warum gute Wissenschaftsautoren so wichtig sind."
Katy Guest, The Guardian