Der offizielle Chatbot der britischen Regierung beantwortet Fragen auf Französisch

Der offizielle KI-Chatbot der Regierung hat während der Tests begonnen, Französisch zu sprechen, was für ein von Rishi Sunak unterstütztes Projekt einen Rückschlag darstellt.

Beamte des Government Digital Service, der Teil des Kabinettsbüros ist, gaben zu, dass die Bemühungen, ChatGPT in die Website Gov.uk zu integrieren, dazu führten, dass der Chatbot ungenaue Antworten lieferte.

Strafverfolgungsminister Alex Burghart sagte, der Chatbot habe unter bestimmten Umständen begonnen, Französisch zu sprechen.

وقال في إحدى الفعاليات التي أقيمت في مركز دراسات السياسة في وقت سابق من هذا الشهر: „لقد قطعنا شوطا طويلا في هذا الأمر… وقد فعل بعض الأشياء الغريبة. إذا طرحت أسئلة بطريقة معينة في البداية كان الرد باللغة الفرنسية… وهو أمر unerwartet.

Pläne zum Bau eines Bots im ChatGPT-Stil wurden von Premierminister Rishi Sunak auf der offiziellen Website von Gov.uk unterstützt, der sagte, das Projekt „könnte jeden Tag Millionen und Abermillionen Menschen zugute kommen“.

Die Regierung hat das Tool – Gov.uk Chat – mit 1.000 Benutzern in einer „privaten Testversion“ getestet.

Beamte stellten jedoch fest, dass 35 % der Tester mit der Erfahrung nicht zufrieden waren. Nur 70 % fanden den Chatbot hilfreich.

Ein Blog von Regierungswissenschaftlern gab zu, dass der Chatbot „nicht das höchste Maß an Genauigkeit erreichte, das für eine Website wie Gov.uk erforderlich ist“ und in einigen Fällen bedeutungslose Antworten lieferte.

„Wir haben auch einige Fälle von Halluzinationen beobachtet, bei denen das System Antworten generierte, die falsche Informationen enthielten, die als Tatsachen dargestellt wurden“, sagten Regierungsforscher.

Eine Regierungsquelle sagte, dass er den Chatbot noch teste und es keinen Zeitplan für den Start des Projekts gebe. Die Forscher sagten, sie würden den vorhandenen Chatbot „schnell iterieren“.

Der Telegraph enthüllte zunächst die Pläne der Regierung, ChatGPT zur Gov.uk-Website hinzuzufügen. Die Website wird von zig Millionen Menschen genutzt und enthält Millionen Seiten mit Informationen zu Dienstleistungen wie Wohnen, Einwanderung, Steuern und Sozialleistungen.

In einem Gespräch mit Elon Musk im November lobte Herr Sunak das Projekt und sagte, die Regierung sei „im Begriff, KI im ganzen Land einzuführen“. [Gov.uk]“.

Die Schwierigkeiten, mit denen die Regierung konfrontiert ist, werden jedoch die Frage aufwerfen, ob KI-gestützte Chatbots effektiv im öffentlichen Sektor eingesetzt werden können.

Laura Gilbert, Direktorin für Datenwissenschaft bei Number 10, sagte dem Center for Policy Studies, dass der Chatbot Schwierigkeiten hatte, die riesigen Datenmengen auf Gov.uk zu durchsuchen. Sie sagte, die Beamten hätten mehr Erfolg gehabt, da die Informationen „sorgfältiger“ organisiert worden seien.

KI-basierte Chatbots werden zunehmend zum Zusammenfassen von Informationen und zum Verfassen von E-Mails eingesetzt. Es ist jedoch bekannt, dass sie Fehler machen, wenn sie Tatsachen erfinden oder falsche oder veraltete Antworten geben.

Regierungswissenschaftler sagten, das Projekt sei durch „Probleme im Zusammenhang mit der neuen Natur dieser Technologie“ behindert worden.

Die Untersuchung ergab auch, dass die Tester zu viel Vertrauen in den Roboter hatten, um genau zu sein, und „ein falsches Vertrauen in ein System hatten, das manchmal falsch sein kann“.

Ein letzte Woche von der Zentralstelle für Digitales und Daten veröffentlichter Bericht warnte vor dem Einsatz von KI-gestützten Chatbots in risikoreichen Angelegenheiten wie dem Gesundheitswesen.

Hunderte von Unternehmen haben versucht, KI-Bots in ihre Produkte einzubauen, aber einige Tools haben sich als fehlerhaft erwiesen oder lieferten ungenaue Antworten. Der Paketdienstleister DPD musste seinen Chatbot deaktivieren, nachdem er anfing zu fluchen und sich selbst als „nutzlos“ zu bezeichnen.

Ein Sprecher des Kabinettsbüros sagte: „Der Gov.uk-Chatbot-Test läuft noch und wir untersuchen weiterhin, wie die Genauigkeit des Systems verbessert werden kann und wie KI das Benutzererlebnis auf Gov.uk verbessern kann.“

„Wie die Öffentlichkeit zu Recht erwartet, testen wir alle potenziellen Produkte für Gov.uk rigoros – und werten die aus diesem Prototyp gewonnenen Daten und Erkenntnisse aus.“

OpenAI wurde für einen Kommentar kontaktiert.