China warnt vor den Gefahren künstlicher Intelligenz, während Präsident Xi Jinping auf eine Verbesserung der nationalen Sicherheit drängt | Nachrichten aus Wissenschaft und Technik

Die Warnung kommt trotz Chinas üblicher Laissez-faire-Haltung gegenüber neuen Technologien und spiegelt die wachsende Besorgnis über die Fähigkeiten der künstlichen Intelligenz wider.

Die Kommunistische Partei Chinas hat vor den potenziellen Gefahren künstlicher Intelligenz gewarnt, einen Tag nachdem Experten erklärt hatten, dass sie ein ähnliches Risiko wie Atomkriege und Pandemien darstelle.

Sitzung unter Vorsitz Präsident Xi Jinping Er forderte „engagierte Anstrengungen zum Schutz der politischen Sicherheit und zur Verbesserung des Sicherheitsmanagements von Internetdaten und künstlicher Intelligenz“, berichtete die Nachrichtenagentur Xinhua.

mit künstliche Intelligenz Und der Präsident ging schnell voran und forderte die Beamten auf, sich „der komplexen und herausfordernden Umstände, mit denen die nationale Sicherheit konfrontiert ist, voll bewusst zu sein“.

sagte Präsident Xi China Laut Xinhua ist „ein neues Entwicklungsmuster mit einer neuen Sicherheitsarchitektur“ erforderlich – was offenbar die Sorge widerspiegelt, dass KI für Sabotage und Spionage genutzt werden könnte.

Die Gefahr der Ausrottung der Menschheit durch Technologie sollte „zusammen mit anderen gesellschaftlichen Risiken wie Pandemien und Atomkrieg“ eine „globale Priorität“ sein. Pioniere der künstlichen Intelligenz warnten diese Woche.

Hinter dem Kopf des Unternehmens Plaudern Der Leiter des Google-Labors für künstliche Intelligenz unterzeichnete den offenen Brief, ebenso wie viele der „Paten“ der Technologie.

Der Direktor des Center for Artificial Intelligence Security, das die Erklärung veröffentlichte, sagte gegenüber Sky News, dass die menschliche Intelligenz irgendwann von der Leistungsfähigkeit der KI überholt werde.

„Dies könnte uns in eine verletzlichere Lage bringen und wir könnten den Weg der Neandertaler oder Gorillas gehen“, sagte Dan Hendricks.

Tesla-Chef Elon Musk schloss sich im März einer weiteren Expertengruppe an Eine Einladung, beim Training großer Sprach-KI-Modelle innezuhalten – Der von ChatGPT und ähnlichen Chatbots verwendete Typ.

In diesem Brief warnte man vor „erheblichen Gefahren“ und sagte, dass starke Systeme nur dann entwickelt werden sollten, wenn sichergestellt werden könne, dass „ihre Auswirkungen positiv sind und ihre Risiken kontrolliert werden können“.

Die Verbreitung von Fehlinformationen und der Verlust von Millionen Arbeitsplätzen aufgrund existenzieller Bedrohungen werden häufig als potenzielle Risiken genannt, wenn sich die KI weiterhin rasant weiterentwickelt.

Obwohl es noch in den Kinderschuhen steckt, hat es bereits Aufmerksamkeit für seine Fähigkeit erregt, überzeugende gefälschte Fotos und Videos sowie reproduzierte Musiktitel zu produzieren.

Weiterlesen:
Welche Bedenken gibt es bezüglich der künstlichen Intelligenz und ist da „Bullshit“?
Unglaublicher Lähmungs-Hack – und KI ist der Schlüssel
KI kommt „wie ein Güterzug“ am Arbeitsplatz an

Chinas Warnung erfolgt trotz seiner üblichen Laissez-faire-Haltung bei der Entwicklung und Nutzung neuer Technologien.

Ein Artikel in Foreign Affairs warnte diese Woche, dass „seine kühle Haltung gegenüber technologischen Risiken, der rücksichtslose Ehrgeiz der Regierung und Pekings Missmanagement der Krise allesamt auf Kollisionskurs mit den wachsenden Gefahren der künstlichen Intelligenz sind.“

Klicken Sie hier, um Sky News Daily zu abonnieren, wo auch immer Sie Ihren Podcast erhalten

China wurde von vielen im Westen dafür kritisiert, dass es zur Überwachung der Bevölkerung Instrumente wie Gesichts- und Stimmerkennung – und sogar Ganganalyse – einsetzt.

Insbesondere uigurische Muslime in der Region Xinjiang unterliegen einer solchen Überwachung, Mit mehr als einer Million Häftlingen in „Umerziehungs“-Lagern.