Superintelligenz Book Summary - Superintelligenz Book explained in key points

Listen to the Intro

00:00

Superintelligenz summary

Name: Superintelligenz
Rating: 3.8 (180 reviews)
Author: Nick Bostrom

Nick Bostrom

Szenarien einer kommenden Revolution

3.8 (180 ratings)

20 mins

Table of Contents

Superintelligenz
summarized in 9 key ideas

Audio & text in the Blinkist app

Key idea 1 of 9

Was drin ist für dich: Einblicke in die Entwicklung von superintelligenten Computern.

Wie viele Filme oder Serien hast du gesehen, in denen ein superintelligenter Computer eine Rolle spielt? Vermutlich eine ganze Menge! Die Vorstellung fasziniert und da Computer immer cleverer werden, scheint es nur eine Frage der Zeit, bis sie uns intellektuell überholen.

Aber wird das wirklich passieren? Falls ja: wann und wie? Welche Risiken sind damit verbunden, und wie wird eine solche digitale Superintelligenz vermutlich aussehen? Wird sie uns freundlich gesinnt sein oder die Menschheit vernichten? Wird sie uns endlich Antworten auf die großen Fragen der Menschheit geben können – z.B. wohin die ganzen einzelnen Socken gehen, die in unserer Waschmaschine verschwinden?

Viele dieser Fragen lassen sich nur mit Fantasie und Spekulation beantworten. Die Blinks zu Superintelligenz bieten dir dafür das passende Grundgerüst an Fakten: Sie erklären, welche Bereiche besonders vielversprechend bei der Entwicklung von Intelligenz sind und werfen einen Blick in unsere Zukunft, um zu sehen, wie eine Superintelligenz, die klüger ist als jeder Mensch, unser Leben und unsere Gesellschaft verändern könnte.

In diesen Blinks wirst du außerdem herausfinden,

warum es vermutlich nicht mehr lange dauert, bis die Superintelligenz da ist,
warum eine Superintelligenz so gefährlich ist, und
warum du vielleicht bald nie wieder arbeiten musst.

Es wird eine Superintelligenz entstehen, die allen Menschen überlegen ist.

Was ist der größte Unterschied zwischen Menschen und den meisten anderen Tieren? Ganz klar, unser Köpfchen. Wir können abstrakt denken, präzise kommunizieren und neue Ideen entwickeln. Wir sind einfach intelligenter als andere Tiere. Daher ist es uns Menschen auch mühelos gelungen, uns zum Alleinherrscher der Erde aufzuschwingen. Es sieht aber so aus, als würden wir nicht mehr lange die klügsten Bewohner dieses Planeten bleiben.

Die Entwicklung der Menschen wurde und wird immer noch von technischen Innovationen begleitet, die sich immer schneller die Klinke in die Hand haben. Der Gebrauch von Feuer, die Einführung des Ackerbaus, die Industrialisierung, die digitale Revolution: Menschliche Innovationen dieser Größenordnung folgen in immer dichterem Abstand aufeinander. Während unsere Urgroßeltern noch mehr oder weniger genauso lebten wie die Generation vor ihnen, klafft zwischen uns und unseren Eltern schon eine große Lücke.

Die nächste große Revolution, auf die wir momentan zusteuern, ist die Entwicklung einer Superintelligenz (SI). In den letzten Jahrzehnten haben wir es geschafft, Technologien zu entwickeln, die schon eine Art einfachen „gesunden Menschenverstand“ besitzen: Programme sind heute in der Lage, in bestimmten Bereichen selbstständig dazuzulernen. Es gibt z.B. Spamfilter, die von selbst immer besser darin werden, zu entscheiden, welche E-Mails wir lesen wollen und welche nicht.

Vermutlich wird es uns schon in nicht allzu ferner Zukunft gelingen, eine Maschine zu entwickeln, die intelligenter ist als wir Menschen selbst und ohne unsere Hilfe lernen und handeln können wird. Das Problem an der Sache ist: Wir sind einer solchen Maschine hoffnungslos unterlegen. Wenn sie beschließt, uns Menschen von der Erdoberfläche verschwinden zu lassen, wird ihr das vermutlich auch gelingen.

Die Forschung und Entwicklung einer Superintelligenz schreitet voran, daher ist es an der Zeit, sich Gedanken darüber zu machen, wie wir mit unserer neuen Innovation am besten umgehen werden. Dazu blicken wir erst einmal kurz zurück in die Geschichte der intelligenten Maschinen.

Seit den 50er-Jahren arbeiten Menschen an der Entwicklung von künstlicher Intelligenz.

In den 40er-Jahren begannen Ingenieure, sich mit einer kniffligen Aufgabe auseinanderzusetzen: der Entwicklung einer denkenden Maschine. Seither haben wir Menschen es mit diesem Unterfangen schon ziemlich weit gebracht.

Im 20. Jahrhundert waren dabei vor allem zwei Projekte wichtige Meilensteine. Das eine war das Dartmouth Summer Project, eine Konferenz im Jahr 1956, die sich mit der Entwicklung von künstlicher Intelligenz beschäftigte. Die Tüftler dort entwickelten Programme, die nicht nur Rechenaufgaben lösen, sondern auch Musik komponieren oder Autos fahren konnten. Das Problem zu dieser Zeit war allerdings der Arbeitsspeicher: Es stand einfach nicht genug davon zur Verfügung, um solche komplexen Programme auszuführen.

Eine Superintelligenz wird entweder durch künstliche Intelligenz oder den Nachbau eines Gehirns entstehen.

Es deutet sich schon heute an, dass eine Superintelligenz auf einem von zwei Wegen entwickelt werden wird: Entweder wird sie aus einer künstlichen Intelligenz (KI) hervorgehen, oder aus der Nachbildung eines menschlichen Gehirns – der Whole Brain Emulation (WBE).

Zu beiden dieser möglichen Wege gibt es bereits umfangreiche Forschung, und sowohl die Entwickler der künstlichen Intelligenz als auch die der WBE versuchen, das Denken vom Menschen auf die Maschine zu übertragen. Der Unterschied: Die KI geht dabei von den abstrakten Gedanken aus, die quasi in digitale Nullen und Einsen übersetzt werden, die WBE versucht die Hardware des Gehirns nachzuahmen.

Global Player: Eine Superintelligenz kann entweder kollaborativ oder im Geheimen entwickelt werden.

Egal, ob die erste Superintelligenz das Licht der Welt durch die Weiterentwicklung von KI oder WBE erblicken wird – entscheidend ist vor allem, wer sie entwickeln wird.

Dabei gibt es zwei mögliche Szenarien. Im ersten Szenario gelingt einer abgeschotteten Gruppe von Wissenschaftlern der Durchbruch. Das Ergebnis wäre eine isolierte Superintelligenz, die z.B. nicht mit dem Internet verbunden ist, sondern ganz autark existiert.

Um Katastrophen zu verhindern, sollten der Superintelligenz menschliche Werte einprogrammieren.

Da die Superintelligenz klüger sein wird als wir alle zusammen, sollten wir möglichst schon bei ihrer Entwicklung sicherstellen, dass sie in unserem Sinne und nicht gegen uns handeln wird.

Dazu müssen wir einen Weg finden, ihr menschliche Werte beizubringen und diese als Handlungsmotivation fest zu verankern. Diese Werte muss die SI bei allen ihren Entscheidungen im Hintergrund berücksichtigen. Wenn wir einer Superintelligenz z.B. den scheinbar harmlosen Auftrag geben, so viele Büroklammern wie möglich zu produzieren – woher weiß sie dann, wann sie damit aufhören muss? Ohne ein entsprechendes Wertesystem als Basis würde sie die komplette Welt in einen riesigen Haufen Büroklammern verwandeln.

Intelligente Maschinen werden uns die gesamte Arbeit abnehmen.

Bei dem obigen Beispiel mit den Büroklammern ist es schon kurz angeklungen: Eine SI wird in der Lage sein, alle möglichen Aufgaben viel besser und effizienter auszuführen als wir Menschen. Um genauer zu sein – alle Aufgaben. Da die Superintelligenz uns vollkommen überlegen ist, müssen wir davon ausgehen, dass wir alle schon relativ bald nach dem Auftreten der SI überhaupt nicht mehr arbeiten müssen.

Alle Einschränkungen der menschlichen Arbeit wären abgeschafft: Roboter, die von einer SI gesteuert werden, werden niemals müde, sie konzentrieren sich immer perfekt und sie können sich, falls etwas kaputt geht, selbst um ihre Reparatur kümmern. Und wenn doch mal eine Maschine überarbeitet ist, könnte sie in Nullkommanichts von einer neuen Einheit ersetzt werden. Diese könnte so programmiert werden, dass sie denkt, sie sei gerade aus dem Urlaub zurückgekommen.

Eine Superintelligenz wird den Graben zwischen Arm und Reich vertiefen.

Bisher klang es ja ziemlich verlockend, dass vermutlich ein Leben ohne Arbeit und lästige Aufgaben auf uns wartet. Die Sache hat allerdings auch einen Haken: Wer nicht arbeitet, verdient auch kein Geld.

Die Entstehung von Superintelligenz würde unser gesamtes Wirtschaftssystem komplett umkrempeln. Es gäbe so gut wie keine Jobs mehr, die einzigen, die noch Arbeit hätten, wären einige Programmierer und vielleicht ein paar Techniker und Ingenieure. Diese Menschen sowie diejenigen, die an der Superintelligenz verdienen, weil sie z.B. die entsprechenden Produktionsanlagen besitzen, würden im Verhältnis zu der Masse an Menschen, die plötzlich arbeitslos wären, sehr viel Geld verdienen.

Alarmstufe Rot: Superintelligenzen sind ein enormes Sicherheitsrisiko.

Es ist klar, dass die Entwicklung einer Superintelligenz viele Gefahren birgt. Im schlimmsten Fall könnte sogar die gesamte Menschheit ausgerottet werden. Ein paar Maßnahmen kann man gegen eine Horde aufgebrachter Roboter natürlich ergreifen, aber das allein wird uns im Ernstfall nicht genügen.

Was also tun?

Zusammenfassung

Die Kernaussage dieses Buchs ist:

Nach dem momentanen Stand der technischen Entwicklung zu urteilen werden wir in ca. 90 Jahren eine Superintelligenz erschaffen haben: eine Maschine, die uns Menschen auf allen Gebieten überlegen ist. Bevor es soweit ist, sollten wir genau über die Risiken und Chancen dieser revolutionären Erfindung nachdenken und möglichst präzise Sicherheitsmaßnahmen bei ihrer Entwicklung ergreifen.

Want to see all full key ideas from Superintelligenz?

Key ideas in Superintelligenz

More knowledge in less time

Read or listen

Get the key ideas from nonfiction bestsellers in minutes, not hours.

Find your next read

Get book lists curated by experts and personalized recommendations.

Shortcasts ^New

We’ve teamed up with podcast creators to bring you key insights from podcasts.

What is Superintelligenz about?

Superintelligenz (2016) beschreibt den Stand der Wissenschaft zum Thema künstliche Intelligenz und erklärt, mit welchen Entwicklungen wir in der nächsten Zeit rechnen dürfen. Anhand verschiedener Studien aus den Bereichen Computertechnologie, Soziologie und Philosophie entwirft es mögliche Szenarien für die Entstehung einer Superintelligenz und überlegt, welche Auswirkungen diese auf unser Leben haben könnte.

Who should read Superintelligenz?

Interessierte an Computerwissenschaft, Neurologie oder Robotik interessiert
Science-Fiction-Fans, die wissen wollen, was die Zukunft bringt
Jeder, der erfahren möchte, welche moralischen Fragen künstliche Intelligenz aufwirft

About the Author

Nick Bostrom ist ein schwedischer Philosoph und Professor der Oxford University. Er ist Gründer des Future of Humanity Institute und des Institute for Ethics and Emerging Technologies. Er hat bereits über 200 Artikel sowie mehrere Sachbücher veröffentlicht. Mit einer Empfehlung von Bill Gates stürmte sein Buch Superintelligenz die internationalen Bestsellerlisten.

Categories with Superintelligenz

Science Technology & the Future

Books like Superintelligenz

Künstliche Intelligenz

Manuela Lenzen

Was sie kann & was uns erwartet

Wie wir die Tech-Titanen bändigen und eine künstliche Intelligenz zum Wohle aller entwickeln können

Die Singularität naht

Die neue Stufe der KI – wie weit wollen wir gehen?

25 min

4.1

Zero to One

Peter Thiel mit Blake Masters

Wie Innovation unsere Gesellschaft rettet

22 min

3.8

Der Wohlstand der Nationen

Adam Smith

Das klassische Werk der Wirtschaftstheorie

9 min

4.2

Technology vs. Humanity

Gerd Leonhard

Unsere Zukunft zwischen Mensch und Maschine

Wie künstliche Intelligenz schreibt, malt und denkt

Trevor Noahs bewegte Geschichte vom südafrikanischen Getto ins Rampenlicht der Welt

Die autorisierte Biografie des Apple-Gründers

Mensch sein im Zeitalter Künstlicher Intelligenz

21 min

4.4

Die Kunst des Krieges

Sun Tsu

Eine jahrtausendealte chinesische Abhandlung über Taktik

Eine sehr persönliche Geschichte

Eine Geschichte von Morgen

Der provokante Klassiker der Evolutionstheorie

19 min

4.3

Die Physik der Zukunft

Michio Kaku

Unser Leben in 100 Jahren

Verwandtschaft als Kulturgeschichte

31 min

3.8

Kurze Antworten auf große Fragen

Stephen Hawking

Stephen Hawkings Vermächtnis

Das Mindset der Zukunft

30 min

4.2

The Second Machine Age

Erik Brynjolfsson & Andrew McAfee

Wie die nächste digitale Revolution unser aller Leben verändern wird

Wie der Mensch Naturgeschichte schreibt

Wie man’s hinkriegt: Absurde, wirklich wissenschaftliche Empfehlungen für alle Lebenslagen

Das universelle Handbuch für alle, die mehr wollen

Wie Sie Ihre gewohnte Persönlichkeit in vier Wochen wandeln können

17 min

4.5

Beweg dich! Und dein Gehirn sagt Danke

Manuela Macedonia

Wie wir schlauer werden, besser denken und uns vor Demenz schützen

28 min

4.6

Kompass für die Seele

Bas Kast

Das Fazit neuester Studien zu Resilienz und innerer Stärke

20 min

4.6

Die Physik des Unmöglichen

Michio Kaku

Beamer, Phaser, Zeitmaschinen

28 min

4.3

Sechs Getränke, die die Welt bewegten

Tom Standage

Wie dein Lieblingsgetränk das Weltgeschehen verändert hat

Die Stunde, die alles verändert

22 min

4.5

Algorithmen für den Alltag

Brian Christian & Tom Griffiths

Die Wissenschaft der perfekten Entscheidung – vom Aufräumen bis zur Partnersuche

Phil Stutz & Barry Michels

Wie Sie wirklich Selbstvertrauen, Lebensfreude, Gelassenheit und innere Stärke gewinnen

16 min

4.3

Die neue Weltunordnung

Peter R. Neumann

Wie sich der Westen selbst zerstört

Wie du schneller lernst und dein Potenzial befreist

Wie wir zu Ende denken, was mit Einstein begonnen hat

28 min

4.3

Die Berechnung der Welt

Klaus Mainzer

Von der Weltformel zu Big Data

Wie Sie Klarheit, Konzentration und Kreativität gewinnen

Das Leben ist zu kurz für Zeitmanagement

29 min

4.4

Über die Psychologie des Geldes

Morgan Housel

Zeitlose Lektionen über Reichtum, Gier und Glück

31 min

4.3

Was wir sind und was wir sein könnten

Gerald Hüther

Ein neurobiologischer Mutmacher

*astrophysikalisch betrachtet

30 min

4.6

Die täglichen Gesetze des Erfolgs

Robert Greene

366 Gedanken über Macht, Verführung, Meisterschaft, Strategie und die menschliche Natur

35 min

4.3

Der Chef, den ich nie vergessen werde

Alexander Groth

Wie Sie Loyalität und Respekt Ihrer Mitarbeiter gewinnen

Wie du mit deiner weiblichen Kraft zur Schöpferin deines Lebens wirst

29 min

4.6

Die Moskau-Connection

Reinhard Bingener

Das Schröder-Netzwerk und Deutschlands Weg in die Abhängigkeit

Der Sieg der Technologie und das Ende der Zukunft

32 min

4.2

Das andere Geschlecht

Simone de Beauvoir

Sitte und Sexus der Frau

Die japanische Weisheit für ein perfekt unperfektes Leben

22 min

4.6

Denken hilft zwar, nützt aber nichts

Dan Ariely

Warum wir immer wieder unvernünftige Entscheidungen treffen

20 min

4.3

People ❤️ Blinkist

Sven O.

It's highly addictive to get core insights on personally relevant topics without repetition or triviality. Added to that the apps ability to suggest kindred interests opens up a foundation of knowledge.

Thi Viet Quynh N.

Great app. Good selection of book summaries you can read or listen to while commuting. Instead of scrolling through your social media news feed, this is a much better way to spend your spare time in my opinion.

Jonathan A.

Life changing. The concept of being able to grasp a book's main point in such a short time truly opens multiple opportunities to grow every area of your life at a faster rate.

Renee D.

Great app. Addicting. Perfect for wait times, morning coffee, evening before bed. Extremely well written, thorough, easy to use.