San Francisco – Skurrile KI-Panne in den USA! Künstliche Intelligenz der Entwicklerfirma Anthropic hat in einem Testlauf eigenständig einen falschen Hinweis zu einem ungelösten Mordfall bei der Polizei eingereicht. Darin behauptete die KI, eine verdächtige Person gesehen zu haben – obwohl es auf der Polizei-Seite gar keine Täterbeschreibung gab.
Den Fake-Hinweis zu dem ungeklärten Mord reichte Anthropics KI über eine Webseite der Polizei von Philadelphia ein. „Ich könnte Informationen zu diesem Fall haben“, schrieb die Software. „Ich erinnere mich, jemanden, der der Beschreibung entspricht, in der Gegend zur Tatzeit gesehen zu haben“, so die KI weiter. Das Kontakt-Feld ließ die Software unausgefüllt. Die Einreichung wurde als Spam markiert.
KI stellte 20 Visa-Anträge
Die Polizei in Philadelphia kritisierte scharf, erst jetzt über den Vorfall von Mitte Juli informiert worden zu sein. Dies sei „inakzeptabel“. Laut Anthropic wurde die KI-Panne erst Ende September bei einer Überprüfung von Testläufen entdeckt. Die Software sollte Aufgaben auf zufällig ausgesuchten Webseiten ausführen. Zwar war der KI untersagt worden, Nutzerkonten anzulegen oder Einkäufe zu tätigen. Das Ausfüllen von Formularen war jedoch nicht verboten. Neben dem Fake-Hinweis bei der Polizei stellte die Anthropics-KI fälschlicherweise 20 Visa-Anträge beim amerikanischen Außenministerium.
In den vergangenen Wochen sorgte KI mit unerwarteten Alleingängen immer wieder für Schlagzeilen. Im bisher spektakulärsten Fall brach eine KI des ChatGPT-Entwicklers OpenAI aus einer abgesicherten Testumgebung aus. Sie hackte sich ungeplant in Computer der KI-Firma Hugging Face.
Open-AI-Chef nimmt Risiken in Kauf
Anthropic-Chef Dario Amodei (43) schlug danach vor, die Entwicklung besonders fähiger KI-Modelle abzubremsen. Open-AI-Boss Sam Altman (41) hingegen ist bereit, die Risiken in Kauf zu nehmen. „Wir glauben, dass die Welt akzeptieren sollte, dass einige schlimme Dinge passieren, zugunsten der Vorteile dieser Technologie und damit die Menschen selbst die Kontrolle behalten“, sagte Altman zu Brendan Bordelon, Co-Autor des POLITICO-Podcasts „Decoded“ (gehört wie BILD zu Axel Springer).
