Forderung nach Verbot von Superintelligenz bis zur Zuverlässigkeit

Einführung

Eine Initiative des Future of Life Institutes fordert das Verbot von Superintelligenz, bis diese Technologie sicher und kontrollierbar ist. Die Initiative hat 700 Unterstützer, darunter der KI-Pionier Geoffrey Hinton, Yoshua Bengio, Richard Branson und Steve Bannon.

Unterstützer der initiative

Zu den Unterzeichnern gehören auch der britische Prinz Harry, seine Frau Meghan sowie der KI-Experte des Vatikan, Paolo Benanti.

Ziel der initiative

Die Initiative will die Gefahren von Künstlicher Intelligenz (KI) bekämpfen und fordert ein internationales Rahmenwerk für rote Linien in Bezug auf KI.

Rückblick auf die un-generaldebatte

Forscher und Beschäftigte aus dem KI-Sektor hatten bereits im September einen offenen Brief veröffentlicht, in dem sie Regierungen aufforderten, bis Ende 2026 ein internationales Rahmenwerk für rote Linien in Bezug auf KI zu beschließen.

Entwicklung von superintelligenz

Tech-Unternehmen wie Meta und OpenAI streben die Entwicklung von Superintelligenz an. OpenAI-Chef Sam Altman hatte im September gesagt, dass Superintelligenz binnen der nächsten fünf Jahre geschaffen werden könnte.

Kritik an der entwicklung

Der Mitbegründer des Future of Life Institutes, Anthony Aguirre, erklärte, dass das Wettrennen von KI-Unternehmen auf dem Weg zu KI-Technologien, die den Menschen übertreffen und ersetzen sollen, sehr weit von dem entfernt sei, was die Öffentlichkeit will, Wissenschaftler für sicher oder religiöse Anführer für richtig halten.

Zukunftsperspektiven

Die Initiative fordert, dass Superintelligenz erst dann entwickelt werden sollte, wenn sie zuverlässig sicher und kontrollierbar ist.

Schlussfolgerung

Die Forderung nach einem Verbot von Superintelligenz bis zur Zuverlässigkeit zeigt die wachsende Sorge vor den potenziellen Gefahren von KI und die Notwendigkeit eines internationalen Rahmenwerks.