zum Hauptinhalt
KPA60252.jpg TERMINATOR 3 / Terminator 3: Rise of the Machines USA 2003 / Jonathan Mostow The Terminator (ARNOLD SCHWARZENEGGER)  UnitedArchives60252

KPA60252 JPG Terminator 3 Terminator 3 Rise of The Machines USA 2003 Jonathan Mostow The Terminator Arnold Schwarzenegger UnitedArchives60252

© imago/United Archives/imago stock&people

Auch Musk fordert Entwicklungsstopp: Tech-Elite warnt vor Gefahren durch KI

Geht es nach zahlreichen Experten, sollte eine Pause bei der Entwicklung Künstlicher Intelligenz eingelegt werden. Ihr Manifest folgt auf eine eindringliche Warnung von Europol.

Elon Musk und zahlreiche Experten aus der KI-Branche haben eine sechsmonatige Pause bei der Entwicklung Künstlicher Intelligenz gefordert.

Die Zeit solle genutzt werden, um ein Regelwerk für diese recht neue Technologie zu schaffen, hieß es in einem am Mittwoch veröffentlichten offenen Brief der gemeinnützigen Organisation Future of Life. „Leistungsstarke KI-Systeme sollten erst dann entwickelt werden, wenn wir sicher sind, dass ihre Auswirkungen positiv und ihre Risiken überschaubar sind.“

Neben dem Tesla-Chef Musk unterzeichneten mehr als 1000 Personen dieses Manifest, darunter Emad Mostaque, Chef der KI-Firma Stability AI, Apple-Gründer Steve Wozniak und mehrere Entwickler von Googles KI-Tochter DeepMind.

Ihnen schlossen sich auch Stuart Russel, einer der Pioniere in diesem Bereich, und Yoshua Bengio an. Letzterer gilt als einer der „Paten der KI“.

Die Verfasser des Schreibens wiesen auf die Gefahren sogenannter Generativer KI a la ChatGPT hin. Diese Programme können menschliche Interaktion simulieren und anhand weniger Stichworte Texte oder Bilder erstellen.

Auch er unterschrieb den Aufruf und fordert staatliche Regulierung: Elon Musk spricht auf einer Konferenz.
Auch er unterschrieb den Aufruf und fordert staatliche Regulierung: Elon Musk spricht auf einer Konferenz.

© dpa/Susan Walsh

Allerdings sei diese Technologie inzwischen so weit fortgeschritten, dass selbst die Entwickler ihre Programme nicht mehr verstehen oder wirksam kontrollieren könnten, hieß es. Dadurch könnten Informationskanäle mit Propaganda und Unwahrheiten geflutet und auch erfüllende Jobs wegrationalisiert werden.

Aus diesem Grund sollten alle Entwickler, die an KI der nächsten Generation arbeiten, ihre Arbeit öffentlich nachprüfbar einstellen. Geschehe dies nicht umgehend, müssten die Staaten ein Moratorium verhängen.

Auch Europol warnt

Vor einigen Tagen hatte Europol vor dem Missbrauch dieser Technologie durch Kriminelle gewarnt. „Die Fähigkeit von ChatGPT, sehr realistische Texte zu verfassen, macht es zu einem nützlichen Werkzeug für Phishing.“ Mit dieser Methode sollen Internet-Nutzer dazu gebracht werden, ihre Zugangsdaten für Bankkonten oder Ähnliches preiszugeben.

Außerdem können Europol zufolge mit minimalem Aufwand große Desinformationskampagnen gestartet werden. Darüber hinaus könnten sich Kriminelle ohne Programmier-Kenntnisse von einer KI Schad-Software schreiben lassen.

OpenAi-Chef hat Aufruf nicht unterschrieben

Future of Life zufolge hat OpenAI-Chef Sam Altman den Aufruf nicht unterschrieben. Seine Firma, an der Microsoft maßgeblich beteiligt ist, hatte mit ihrer Software ChatGPT den aktuellen KI-Hype ausgelöst. OpenAI war für einen Kommentar zunächst nicht zu erreichen.

Musk gehört zwar zu den Mitgründern dieses Unternehmens, hatte sich aber vor Jahren wegen möglicher Interessenskonflikte im Zusammenhang mit der KI-Forschung seines Elektroauto-Bauers Tesla zurückgezogen. Außerdem hat sich der Milliardär wiederholt kritisch zu diesem Thema geäußert und staatliche Regulierung gefordert.

Kritiker werfen Future of Life vor, mit dem offenen Brief den Hype um diese Technologie noch zu befeuern. Der Aufruf diene allein dazu, Ängste zu schüren, sagte Johanna Björklund, KI-Forscherin und Professorin an der Universität Umea. „Es gibt keinen Grund, die Handbremse zu ziehen.“ Stattdessen sollten die Transparenz-Auflagen für Entwickler verschärft werden.

Seit der Vorstellung von ChatGPT im November 2022 liefern sich zahlreiche Großkonzerne, allen voran Microsoft und Google, ein Rennen um die technologische Führerschaft bei KI.

Quasi im Wochentakt werden neue Anwendungen vorgestellt, weil sich Unternehmen von dieser Technologie sprudelnde Gewinne versprechen. Einige Staaten wie China betrachten KI als strategisch wichtig und wollen Entwicklern große Freiheiten lassen. (Reuters)

Zur Startseite