Warnung vor Superintelligenz: Prinz Harry und eine diverse Gruppe von Experten fordern ein Verbot

Warnung vor superintelligenz

Prinz Harry und eine sehr diverse Gruppe von Wissenschaftlern, Volkswirten, Künstlern, evangelikalen Christen und konservativen Wortführern wie Steve Bannon haben vor den Gefahren bei der Entwicklung einer sogenannten generellen Künstlichen Intelligenz (AGI) oder auch Superintelligenz gewarnt.

Stellungnahme der unterzeichner

In einer Stellungnahme, die am Mittwoch veröffentlicht wurde, verlangten sie von Firmen wie Google, OpenAI und Meta, nicht in der jetzigen Form weiter auf eine KI hinzuarbeiten, die den Menschen übertreffen könne.

Forderung nach verbot

„Wir fordern ein Verbot der Entwicklung von Superintelligenz, das erst aufgehoben werden darf, wenn ein breiter wissenschaftlicher Konsens darüber besteht, dass dies sicher und kontrollierbar erfolgen kann, und wenn eine starke öffentliche Zustimmung vorliegt“, hieß es in der Stellungnahme.

Sorge vor auslöschung der menschheit

Die Unterzeichner warnen vor der Auslöschung der Menschheit und betonen, dass Empathie, Beziehung und Vertrauen durch einen Chatbot nicht ersetzt werden können.

Unterstützung von prinz harry und meghan

Prinz Harry und seine Frau Meghan sind ebenfalls zu den Unterzeichnern gezählt. Prinz Harry schrieb in einer persönlichen Notiz: „Die Zukunft der KI sollte der Menschheit dienen, nicht sie ersetzen. Ich glaube, dass der wahre Maßstab für den Fortschritt nicht darin besteht, wie schnell wir vorankommen, sondern wie klug wir steuern. Es gibt keine zweite Chance.“

Unterstützung von ki-visionären

KI-Pionier und Universitätsprofessor Stuart Russell, Yoshua Bengio und Geoffrey Hinton, Gewinner des prestigereichen Turing Awards, sowie Apple-Mitgründer Steve Wozniak und der britische Milliardär Richard Branson sind ebenfalls auf der Liste der Unterzeichner.

Überraschungen auf der liste

Steve Bannon und Glenn Beck, ein konservativer Kommentator, zählten zu den Überraschungen auf der Liste. Die Entscheidung der Organisatoren vom Future of Life Institute wurde als Versuch gewertet, auch die Anhänger von Präsident Donald Trump mit ins Boot zu holen.

Ki-debatte ist teil des mainstreams

Max Tegmark, Präsident des Future of Life Institute und Professor an der renommierten Universität MIT, sagte, die Debatte um KI sei nun Teil des Mainstreams.

Zukunft der ki

Die Unterzeichner fordern, dass die Entwicklung leistungsfähigerer KI-Modelle vorübergehend ausgesetzt wird, bis ein breiter wissenschaftlicher Konsens und starke öffentliche Zustimmung vorliegen.

• Prinz Harry
• Meghan Markle
• Steve Bannon
• Glenn Beck
• Stuart Russell
• Yoshua Bengio
• Geoffrey Hinton
• Steve Wozniak
• Richard Branson
• Mike Mullen
• Susan Rice
• Mary Robinson
• Stephen Fry
• Joseph Gordon-Levitt
• will.i.am