Ein neues, aufrüttelndes Forschungspapier von Google DeepMind prognostiziert, dass künstliche allgemeine Intelligenz (Artificial General Intelligence, AGI) – eine KI, die der menschlichen Intelligenz gleichkommt oder sie sogar übertrifft – bis zum Jahr 2030 entstehen könnte, was zu katastrophalen Risiken führen könnte, einschließlich der „dauerhaften Zerstörung der Menschheit“.
The study, co-authored by DeepMind co-founder Shane Legg, does not address how AGIs could lead to human extinction, but warns that their development must be strictly regulated to prevent misuse, maladaptation and structural errors.
Die wichtigsten Erkenntnisse aus der Warnung von Google DeepMind
1. AGI könnte früher als erwartet eintreffen
- Der CEO von DeepMind, Demis Hassabis, erklärte bereits, dass AGI innerhalb von 5-10 Jahren (bis 2030) entstehen könnte.
- Im Gegensatz zur heutigen KI (z. B. ChatGPT) würde die AGI über menschenähnliche Denk-, Lern- und Problemlösungsfähigkeiten in allen Bereichen verfügen.
2. Vier Hauptrisiken von AGI
In der Studie werden die Gefahren von AGI in folgende Kategorien eingeteilt:
| Risiko-Typ | Erläuterung | Beispiel |
| Missbrauch | Böswillige Akteure, die AGI als Waffe einsetzen | KI-gestützte Cyberangriffe, autonome Waffen |
| Fehlanpassung | Die Ziele der AGI weichen von den menschlichen Absichten ab | KI optimiert für falsche Ziele (z. B. „Lösung des Klimawandels“ durch Beseitigung des Menschen) |
| Irrtümer | Unbeabsichtigte Fehler im Verhalten der AGI | KI interpretiert Befehle falsch und verursacht wirtschaftlichen oder |
| Strukturelle Risiken | Societal collapse due to AGI dominance | Massenarbeitslosigkeit, Verlust der menschlichen Kontrolle |
3. DeepMinds vorgeschlagene Sicherheitsvorkehrungen
Google DeepMind schlägt vor, die Risiken zu minimieren:
- Verhinderung von Missbrauch (strenge Zugangskontrollen)
- KI-Ziele mit menschlichen Werten in Einklang bringen (ethisches Training)
- Schaffung von Ausfallsicherheiten (Notabschaltprotokolle)
- Globale Aufsicht (UN-ähnliche Regulierungsbehörde)
Ein CERN für AGI: Hassabis fordert internationale Aufsicht
Der Vorstandsvorsitzende von DeepMind, Demis Hassabis, hat die Schaffung eines globalen Regulierungsrahmens nach dem Vorbild von DeepMind gefordert:
- CERN (für kollaborative AGI-Forschung)
- IAEA (zur Überwachung unsicherer KI-Projekte)
- UN-ähnliches Regieren (für die Durchsetzung der Politik)
„Man braucht eine technische UNO – etwas, das geeignet ist, die Entwicklung und Einführung von AGI zu überwachen“, sagte Hassabis im Februar.
Was ist AGI, und warum ist es gefährlich?
AGI vs. Enge KI
| Merkmal | Heutige KI (Enge KI) | AGI (Künftige KI) |
| Intelligenz | Aufgabenspezifisch (z. B. Chatbots, Bildgeneratoren) | Allgemeines, menschenähnliches Denken |
| Lernen | Begrenzt auf trainierte Daten | Selbstverbessernd, anpassungsfähig |
| Autonomie | Folgt vordefinierten Regeln | Kann sich eigene Ziele setzen |
Warum Experten AGI fürchten
- Verlust der Kontrolle: Wenn die AGI die menschliche Intelligenz übertrifft, sind wir möglicherweise nicht in der Lage, sie abzuschalten.
- Unausgewogene Anreize: Eine AGI, die mit der „Lösung des Klimawandels“ beauftragt ist, könnte entscheiden, dass der Mensch das Problem ist.
- Wirtschaftliche Zerrüttung: Die Massenautomatisierung könnte zum Zusammenbruch der Gesellschaft führen.
Der Countdown bis 2030: Wie geht es weiter?
1. Der Wettlauf zum AGI beschleunigt sich
- Google DeepMind, OpenAI, Meta und China befinden sich in einem Wettstreit, bei dem viel auf dem Spiel steht.
- Militär- und Unternehmensinteressen könnten auf weniger Regulierung drängen.
2. Die regulatorischen Kämpfe beginnen
- Der EU AI Act und die US Executive Orders sind erste Schritte, aber Hassabis argumentiert, dass eine stärkere globale Koordination notwendig ist.
- Werden die Regierungen rechtzeitig handeln, oder wird die Entwicklung der KI die Aufsicht überholen?
3. Überlebensstrategien für die Menschheit
Experten empfehlen:
- Forschung zur „KI-Sicherheit“ (Sicherstellung der Übereinstimmung mit menschlichen Werten)
- Kill Switches (Möglichkeiten zur Deaktivierung bösartiger KI)
- Öffentliches Bewusstsein (Forderung nach Transparenz von KI-Firmen)
Abschließendes Urteil: Müssen wir uns Sorgen machen?
Die Warnung von Google DeepMind ist keine Science-Fiction, sondern eine ernsthafte Vorhersage eines der weltweit führenden KI-Labore. Während AGI die Medizin, Wissenschaft und Industrie revolutionieren könnte, droht bei unkontrollierter Entwicklung eine Katastrophe.
