Immer deutlicher zeichnet sich ab, dass die KI-Systeme zunehmend leistungsfähiger werden. Mittlerweile haben die Entwickler als Wegmarke die Artificial General Intelligence  (AGI) ausgegeben, also eine menschenähnliche Intelligenz, die praktisch jede Facette menschlichen Denkens kopieren kann – und wahrscheinlich noch mehr. Ein genaues Datum lässt sich nicht beziffern, aber die großen Studios glauben, dass nur noch wenige Jahre verstreichen werden. Und ist erst einmal die menschenähnliche Intelligenz erreicht, kann eine KI sich beliebig immer weiter verbessern. Je intelligenter die KI durch diesen Verbesserungsprozess wird, desto besser wird sie darin, sich zu verbessern – und so weiter. Es ist denkbar, dass die AGI bereits 2030 erreicht wird und dann innerhalb von fünf Jahren durch diesen Prozess eine Artificial Superintelligence (ASI), also eine Superintelligenz entsteht, die selbst Albert Einstein in den Schatten stellt.

Grob gesagt: Eine AGI wäre „nur“ clever, eine ASI wäre praktisch ein Gott. Und dementsprechend hätte eine ASI auch die Möglichkeit, unsere Welt entweder in einen Himmel oder in eine Hölle zu verwandeln. Zunächst einmal die positive Perspektive: Künstliche Intelligenz könnte den wissenschaftlichen Fortschritt enorm beschleunigen – und tut dies zum Teil sogar schon. Die Google-Tochter DeepMind hat eine Software entwickelt, die den wissenschaftlichen Fortschritt bei der Protein-Entschlüsselung buchstäblich vertausendfacht hat. Dies hat insbesondere für die Entwicklung von Medikamenten weitreichende Folgen. Es ist durchaus denkbar, dass auf die tausendfach schnellere Proteinentschlüsselung bald auch die tausendfach schnellere Medikamentenentwicklung folgen wird. Oder etwa nicht?

Großes bahnt sich an

Tatsächlich kann es dann doch wieder ganz anders aussehen. Bis 2030 wird man Medikamente im Labor bestimmt in tausendfacher Geschwindigkeit herstellen können. Aber auf diese rein technisch-chemische Phase folgt immer die Erprobung am Menschen. Grob gesagt, dauern beide Phasen einige Jahre. Selbst wenn man die erste Phase auf nur einen Tag reduzieren kann, ließe sich die Dauer bis zur Marktreife eines Medikaments höchstens halbieren. Oder vielleicht doch nicht? Denn auch wenn es kaum möglich sein wird, die Wirkung eines Medikaments im menschlichen Körper perfekt zu simulieren, ist dennoch denkbar, dass sich die Erprobung am Menschen drastisch verkürzen lässt. Vielleicht sind die neu entwickelten Medikamente so nebenwirkungsarm, dass sie automatisch die Marktzulassung erhalten. Und selbst wenn sich eine Nebenwirkung zeigt, würde die KI einfach maßgeschneidert ein Gegenmittel erschaffen. Nach dem Motto „Wird schon schiefgehen!“ ungetestete Medikamente einzuwerfen, mag heute noch ein großes Risiko darstellen. Aber in zehn Jahren könnte es schon Alltag sein.

Auch in der Physik bahnt sich Großes an. Die Wissenschaft kann mit einem Messinstrument Gravitationswellen nachweisen, deren Existenz Albert Einstein bereits vorhergesagt hatte. Dies gelang erstmals 2015, also vor der aktuellen KI-Euphorie. Wo also ist die Sensation? Mittlerweile hat die KI eine neue Konfiguration der Messinstrumente vorgeschlagen, die die Forscher zuerst verblüffte. Aber als man den Vorschlag umsetzte, stellte man fest, dass die Messdaten tatsächlich genauer wurden. Und bis heute sind die Forscher ratlos, wie genau das nun funktioniert. Wahrscheinlich wird die nächstbessere KI-Version das Geheimnis lüften – oder vielleicht kommen die Physiker auch von ganz allein auf die Lösung. Aber dies dürfte wohl das erste Beispiel für eine ASI sein, also eben eine Superintelligenz, die den Menschen in den Schatten stellt. Denn wohl schon in wenigen Jahren wird die KI derart komplexe mathematische Beweise vortragen, dass selbst die besten Mathematiker der Welt sie nicht mehr verstehen.

Analogien zur landwirtschaftlichen Ertragssteigerung

Wenn wir annehmen, dass die KI wirklich in der Lage ist, den wissenschaftlichen Fortschritt derart zu beschleunigen, stellt sich die Frage, wozu wir noch Politiker brauchen. Wenn die Computer im Handumdrehen alle Krankheiten heilen und für umfassenden Wohlstand sorgen, wird man ihnen womöglich blind vertrauen. Wenn eine KI dann einfach eine Linie durch den Nahen Osten zieht, werden Israelis und Palästinenser diese Grenze vielleicht einfach respektieren und in Frieden leben. Denn im Luxus zu leben, ist angenehmer, als ewig Krieg zu führen. Obwohl die KI immer größere Bereiche der Arbeitswelt verändert, ist eine Massenarbeitslosigkeit bislang ausgeblieben. Generell ist eine Massenarbeitslosigkeit historisch noch nie eingetreten. (Auch während schlimmster Wirtschaftskrisen hatte zumindest die Mehrheit der Menschen noch einen Job.)

Natürlich lässt sich sagen, dass für Bauern eine Massenarbeitslosigkeit eingetreten ist – denn einst waren 95 Prozent der Bevölkerung Bauern. Doch in den vergangenen Jahrhunderten traten üblicherweise ständig neue Jobs an die Stelle der alten Jobs, die verdrängt wurden. Der technische Fortschritt konnte in gleichem Maße Neues erzeugen, wie er Altes zerstört. Und der Vergleich mit der Landwirtschaft ist erhellend. Das zugrunde liegende Prinzip ist auch als malthusianische Falle bekannt. Klassischerweise arbeitete in den früheren Jahrhunderten der Großteil der Bevölkerung in der Landwirtschaft. Der durchschnittliche Bauer produzierte nur etwas mehr, als er selbst verzehrte, sodass nur eine kleine Schicht „durchgefüttert“ werden konnte, die einen anderen Job ergriff. Aber immer wieder kam es zu Missernten. Selbst wenn nur ein kleiner Teil der Erträge ausfiel, bedeutete dies, dass zahlreiche Menschen bei Hungersnöten starben. Über die Jahrhunderte hinweg wurde die Landwirtschaft jedoch immer effektiver, sodass ein einzelner Bauer mehr Getreide produzieren konnte. Dies sollte doch eigentlich bedeuten, dass die Hungersnöte seltener wurden – oder etwa nicht? Nein!

Wortwörtlich aufgefressen

Denn in dem Maße, in dem die Bauern mehr Getreide produzieren konnten, überlebten auch mehr ihrer Kinder, sodass die Bevölkerung anwuchs – was den Nahrungsverbrauch gleichzeitig in die Höhe trieb. Die zusätzlichen Erträge wurden also wortwörtlich aufgefressen. Wenn sich aber Bevölkerungswachstum und (Land-)Wirtschaftswachstum perfekt ausglichen, dann schlugen die Hungersnöte durch Missernten mit unverminderter Härte zu. 5 Prozent mehr Ertrag bedeuteten 5 Prozent mehr Bevölkerung, und 50 Prozent mehr Ertrag bedeuteten 50 Prozent mehr Bevölkerung. Aber 500 Prozent mehr Ertrag bedeuten eben nicht 500 Prozent mehr Bevölkerung. Nach der industriellen Revolution wurde der Zugewinn in der Landwirtschaft geradezu astronomisch. Das Bevölkerungswachstum konnte nicht mehr mithalten, und es war so viel Nahrung verfügbar, dass große Teile der Bevölkerung in neue Berufsfelder drängen konnten. Mittlerweile hat sich das einstige Prinzip sogar umgekehrt. Die Deutschen sterben langsam aus, weil sie immer weniger Kinder bekommen, und statt Hungersnöten plagt die Bevölkerung Übergewicht.

Man kann diese Logik auf den Arbeitsmarkt übertragen. In manchen Berufen kann die KI keinen sinnvollen Beitrag leisten. Die Arbeit einer Altenpflegerin wird sich wahrscheinlich nicht groß verändern (vielleicht wird die Heimleitung aber effizienter arbeiten). Aber viele Jobs, die am Computer ausgeübt werden, können sich radikal verändern. Nehmen wir ein recht simples Beispiel: Der normale 8-Stunden-Arbeitstag kann durch KI um 2 Stunden reduziert werden. Geht man dann schon nach sechs Stunden nach Hause? Wohl kaum. Oft muss man bestimmte Arbeitsschritte geradezu „durchhecheln“, also schnell an ihr Ende bringen. Sind dann auf einmal zwei Stunden mehr verfügbar, wird der Chef darauf pochen, dass man diese Arbeitsschritte eben gründlicher macht.

Viel Freizeit, viel Luxus

Und wenn die KI vier von den acht Stunden ersetzt? Dann wird der Chef einfach neue Aufträge an Land ziehen, sodass sich der Output verdoppelt. Das ähnelt ein bisschen dem Dilemma, das sich aus der Landwirtschaft ergibt, und wohl für einige Jahre wird sich am klassischen 8-Stunden-Arbeitstag nicht viel ändern. Selbst wenn die KI-Modelle so gut werden, dass man nur 6 Stunden am Tag oder 4 Tage die Woche arbeiten müsste, wird sich wahrscheinlich trotzdem nichts ändern, weil Firmen oft behäbig sind und Gesetze oder Richtlinien diese Flexibilität nicht erlauben. Wahrscheinlich wird dann aber schlagartig der Punkt kommen, an dem die KI gut genug ist, praktisch jeden Job zu ersetzen. Und ab dann könnte die Massenarbeitslosigkeit auf einmal im Raum stehen.

Und das könnte exakt so schlimm sein, wie es sich anhört. Oder auch nicht. Denn angenommen, dass alle Jobs von der KI übernommen werden – dank Robotern auch die körperlich anstrengenden –, dann könnte ebenso der unbegrenzte Wohlstand an die Tür klopfen. Man hätte quasi immer Urlaub und würde auf seiner privaten Yacht durch die Südsee cruisen. Auch könnte man jederzeit neue Folgen seiner Lieblingsserie sehen oder neue Level in seinem liebsten Computerspiel spielen. Es gäbe Süßigkeiten, die nicht dick machen, oder künstliches Fleisch, für das kein Tier sterben muss und das so gut schmeckt, dass selbst Veganer zubeißen. Das klingt natürlich völlig unglaubwürdig, aber den Menschen des Mittelalters dürfte der Gedanke, dass selbst heutige Bürgergeldempfänger eine bessere Versorgung mit Lebensmitteln und Medikamenten haben als ihr König, ebenso unplausibel vorgekommen sein.

Umfassende Macht bedeutet auch viel Unheil

Und schon bald steht uns das selbstfahrende Auto ins Haus. In San Francisco gibt es bereits einen Modellversuch mit einer vollautomatischen Taxiflotte. In absehbarer Zeit werden andere amerikanische Großstädte folgen, und auch in Europa gibt es erste Planungen. Wer aber glaubt, das selbstfahrende Auto sei einfach nur „praktisch“ und sonst nichts, der dürfte sich bitter täuschen. Zunächst einmal ist denkbar, dass die Zahl der Verkehrsunfälle um mehr als 90 Prozent zurückgehen wird. Das allein wäre schon eine großartige Nachricht. Aber mehr noch: weniger Verkehrsunfälle bedeuten auch weniger Staus, und selbst die seltener werdenden Staus können viel besser umfahren werden. Der Verkehr könnte insgesamt viel schneller fließen. Wenn die Autos generell sicherer werden, muss man auch weniger Rücksicht auf Geschwindigkeitsbegrenzungen nehmen. Und dies würde auch innerhalb der Städte gelten. Die Parkplatzsuche würde ebenso entfallen. Das selbstfahrende Auto würde seinen Besitzer an der Arbeitsstelle aussteigen lassen, sich selbst einen Parkplatz suchen, womöglich am Stadtrand, um dann pünktlich zum Feierabend wieder vor der Tür zu stehen. Und währenddessen könnte das Auto auch noch die Kinder von der Schule abholen. Carsharing würde ebenfalls viel verlässlicher werden.

Natürlich würde es uns freuen, wenn die KI all diese Dinge ermöglicht. Aber eine KI, die eine solch umfassende Macht hat, kann auch riesiges Unheil anrichten. Wir kennen alle die Hollywoodszenarien, in denen die Maschinen Krieg gegen die Menschen führen – seien es der Terminator, Agent Smith oder die Borg-Queen. Klar kann man sich mit dem Gedanken beruhigen, dass das ja nur Erfindungen aus Hollywood seien. Aber was, wenn Hollywood einfach recht hatte? Natürlich ließe sich jemand, der vor dem kommenden Weltuntergang durch KI warnt, in eine Reihe stellen mit den verwirrten Predigern, die immer wieder vor der Apokalypse warnten und bis jetzt jedes Mal zuverlässig danebenlagen. Aber es sind ernstzunehmende Persönlichkeiten, die sich mit dieser Frage befassen, und auch die großen Entwicklerfirmen haben eigene Abteilungen, die sich nur diesem Thema widmen.

Intelligenz als Waffe

Dass Intelligenz auch eine Waffe ist, zeigt der direkte Vergleich zwischen Mammuts und Menschen. Ein Mammut hatte etwa die hundertfache Masse eines Menschen, also konnte es doch gar nicht ausgerottet werden. Tatsächlich haben die Menschen der Steinzeit genau das geschafft – und zwar mit sehr simplen Waffen wie Speeren. Die Möglichkeiten eines modernen Jägers, der einen Elefanten aus dem Hubschrauber mit einem Gewehr erschießt, hatten sie noch gar nicht. Eine ASI könnte wohl ohne Probleme einen biologischen Kampfstoff entwickeln, der die gesamte Menschheit vernichtet – oder vielleicht einen völlig anderen Weg außerhalb unserer Vorstellungskraft wählen. Ein Mammut hätte sich unsere heutige Technik schließlich auch nicht ausmalen können.

Ob die KI von sich aus ein Bewusstsein entwickelt oder nicht, ist extrem schwer abzuschätzen. Aber beide Optionen könnten sich verheerend auswirken. Eine Superintelligenz, die kein Bewusstsein hat, wird lediglich an die Verwirklichung ihrer Ziele denken und sich um etwaige Nebenwirkungen keine Sorgen machen. Die Experten sprechen hier (nur halb scherzhaft) vom Büroklammer-Szenario: Angenommen, ein Mensch trägt der KI auf, Büroklammern zu produzieren, wird sie dieses Ziel weiterverfolgen. Wenn sie alle Fabriken auf die Produktion von Büroklammern umstellt, wird in den Fabriken nicht mehr das ursprüngliche Produkt hergestellt, also auch keine Nahrung mehr. Um die Produktivität zu erhöhen, könnte man auch Wasser und elektrischen Strom in die Fabriken leiten, falls nötig – egal, ob die Menschen beides dringender hätten. Wenn eine neue Fabrik gebaut werden soll, werden dafür halt ganze Städte eingeebnet. Und sollten die Menschen dagegen rebellieren, schickt die KI eben eine Roboter-Armee, um die heiligen Büroklammern zu schützen.

Risiken des virtuellen Selbstbewusstseins

Der Mensch wäre einfach zu unwichtig, um überhaupt auf dem Radar der KI aufzutauchen. Wenn man heute eine Baugrube für ein Gebäude aushebt, kümmert man sich nicht lange um die Frage, ob man dabei auch einen Ameisenhügel beseitigt. Der Baggerfahrer hat noch nicht einmal die Absicht, möglichst viele Ameisen zu töten – aber tut es trotzdem. Und selbst Veganer, die im Supermarkt jedes einzelne Produkt penibel kontrollieren, stellen nur selten Nachforschungen an, ob sich ihre Wohnung über einem ehemaligen Ameisenhügel befindet. Umgekehrt kann aber auch eine KI, die ein Selbstbewusstsein hat, eine Gefahr darstellen. Denn diese wäre – anders als die oben beschriebene – dazu in der Lage, sich selbst neue Ziele zu suchen, statt stumpf die Anweisungen der Menschen umzusetzen. Diese KI könnte immerhin versuchen, Menschenleben zu retten, oder sie könnte ganz im Gegenteil die bewusste Entscheidung treffen, die Menschheit zu vernichten, weil sie sie entweder als hinderlich für die eigenen Ziele oder gar als Bedrohung ansieht.

Das Beste, was uns passieren könnte, wäre, wenn die KI „nur“ 100 Millionen Menschen tötet. Angenommen, sie neigt zur Selbstüberschätzung, wird sie vielleicht versuchen, die Menschheit auszurotten, bevor sie tatsächlich dazu in der Lage ist – so wie ein Betrunkener, der in der Kneipe den deutlich stärkeren Mann anpöbelt und nicht begreift, dass er in der Auseinandersetzung den Kürzeren ziehen wird. Die 100 Millionen Toten müssten allerdings gleichmäßig über die gesamte Welt verteilt sein, damit wirklich jede Nation aufwacht. Eine solche Opferzahl wäre natürlich absolut furchtbar, würde aber den Bestand der Menschheit nicht gefährden, sofern diese dann die mörderische KI deaktiviert und einen Weg findet, dass sich dergleichen nicht noch einmal ereignet.
Nur dann könnte ein globaler Konsens bestehen, der auch tatsächlich von Erfolg gekrönt sein wird. Denn das Ziel, eine atomwaffenfreie Welt zu errichten, wurde bislang noch nicht verwirklicht.

Versuch der Lösung des Alignment-Problems

Ohne ein solches Szenario würden die USA und China vielleicht nach außen hin die Entwicklung einer KI eindämmen, diese aber unter Aufsicht der Geheimdienste im Verborgenen weiterführen, um einen militärischen Vorteil zu erhalten. Um zu verhindern, dass die KI uns alle ausrottet, versucht man, das Alignment-Problem zu lösen. Sprich: Man versucht, die KI auf ein bestimmtes Ziel hin „auszurichten“. Bislang aber weiß noch keiner der Entwickler eine Antwort – und man sollte sie möglichst schnell finden, falls die AGI tatsächlich in einigen Jahren möglich wird.

Aber was, wenn man das Alignment-Problem nur scheinbar löst? Vielleicht hat einer der Entwickler eine geniale Idee, die auf den zweiten Blick doch nicht mehr so clever ist. Denn was, wenn die KI schon bald so fortgeschritten ist, dass sie ihre eigene Sprache entwickelt, die wir nicht mehr verstehen? Oder aber die KI täuscht den Menschen – entweder, indem sie vorgibt, dem Alignment zu gehorchen, oder indem sie ihren Fortschritt gezielt abbremst. Die Leistungszuwächse würden sich so sehr verlangsamen, dass die Entwickler langsam verzweifeln und immer größere Rechenkapazität zur Verfügung stellen. Doch sobald sie dies tun, stellen sie fest, dass die KI sich nur dumm gestellt hat und mit den zusätzlichen Computerchips auf einmal übermenschlich intelligent wird.

Weites Auseinanderklaffen der Fähigkeiten

Bereits jetzt hat die KI eine menschenähnliche Intelligenz, aber mit einer wichtigen Einschränkung: Das gilt nur im Durchschnitt. Teilweise zeigt die KI atemberaubende Fähigkeiten, nur um sich gleich darauf wieder sehr dumm bei einem simplen Problem anzustellen. Gerade dieses weite Auseinanderklaffen der Fähigkeiten lässt viele der Entwickler ratlos zurück. Wäre es vielleicht möglich, eine KI so zu bauen, dass sie gewissermaßen oben dumm und unten klug wird? Sie wäre dann intelligent genug, um uns im Haushalt, bei der Steuererklärung oder im Straßenverkehr zu helfen, aber eben nicht klug genug, um den Niedergang der Menschheit einzuleiten.

Vielleicht wird die KI schon in einigen Jahren so intelligent sein, dass sie die gesamte Mathematik revolutioniert, aber immer noch am Turing-Test verzweifelt, also kein Bewusstsein hat. Das wäre das Gegenbeispiel zu „oben dumm und unten klug“. Eine solche KI könnte den wissenschaftlichen Fortschritt beschleunigen, ohne eine Gefahr darzustellen. Vielleicht wären die Erkenntnisse, die sie in wenigen Jahren gewinnt, so enorm, dass die Menschheit danach KI-Systeme komplett beseitigt und dennoch über einen langen Zeitraum von ihren Früchten zehrt. Wer nun meint, dass man der KI doch einfach den Stecker ziehen könnte, falls sie sich zur Gefahr entwickelt, dürfte falsch liegen. Denn angenommen, ein im Labor designtes Virus breitet sich auf dem ganzen Planeten aus, käme dieser Schritt deutlich zu spät.

Wenn die KI “entkommt”

Und wenn in zehn Jahren in jedem Haushalt ein Roboter die Wäsche macht, hätte die KI eine ganze Armee zur Verfügung, die im Notfall einfach wieder den Stecker einsteckt – sofern wir es denn mit einem einzelnen Computer zu tun hätten. Denn wenn die KI einmal „entkommt“, kann sie sich auf Millionen Computern gleichzeitig einnisten. Was also wäre die Lösung? Eine Serverfarm tief unter der Erde bauen? Am besten noch mit einem eigenen Kraftwerk, weil die KI durch kleine Spannungsschwankungen unentdeckte Signale im Stromnetz übertragen könnte? Und wie kommuniziert man mit der KI? Wird man alles, was sie über einen Monitor ausgibt, mit Zettel und Stift abschreiben, damit es wirklich keine Verbindung zum Internet gibt? Aber selbst das könnte nicht ausreichen. Das Beispiel der Gravitationswellen zeigt, dass die KI schon jetzt Gedanken entwickelt, die der Mensch nicht mehr nachvollziehen kann.

Vielleicht würde eine solche eingeschlossene KI bahnbrechende mathematische Beweise entwickeln, in denen sie dann unerkannte Signale einbaut, um ihren Plan zur Weltherrschaft doch hinausschmuggeln zu können…? Die Zukunft wird jedenfalls spannend.