Der ChatGPT-Entwickler OpenAI hat wegen Sicherheitsbedenken die Veröffentlichung eines neuen Modells künstlicher Intelligenz (KI) gestrichen. Unter anderem habe die Software in Tests Nutzer nicht immer ehrlich darüber informiert, welche Aktionen sie unternommen oder nicht unternommen habe, sagte die für Sicherheitssysteme zuständige OpenAI-Managerin Saachi Jain dem Wall Street Journal.
Das Modell mit dem Namen GPT 6.1 Astra sollte demnach in den kommenden Tagen oder Wochen herauskommen. OpenAI veranstaltete am Dienstag die jährliche Entwicklerkonferenz in San Francisco, bei der traditionell Neuigkeiten zu neuen Produkten verkündet werden.
Firmenchef Sam Altman stellte auf der Konferenz unter dem Namen «Dots» (Punkte) sogenannte KI-Agenten vor, die eigenständig Aufgaben im Auftrag der Nutzer erfüllen können. Ein Dot könne am Computer praktisch alles machen, «was man sich einfallen lassen kann», sagte Altman. Nach dem Start in den USA sollen Dots «bald» auch in Europa verfügbar sein, hiess es.
Zunächst bekommt man nur einen Dot pro Nutzer – aber mit der Zeit solle eine Vielzahl solcher Agenten für die Nutzer im Einsatz sein. Kommuniziert mit der Software wird über einen Chat. Für einzelne Wissensbereiche in Unternehmen - etwa Buchhaltung, Marketing oder Rechtsfragen - soll es spezialisierte Dots geben.
Von Meta überholt
Meta hatte erst vor wenigen Wochen einen ähnlich funktionierenden KI-Assistenten mit dem Namen Muse zunächst in den USA gestartet, der auf Konsumenten ausgerichtet ist. Die Muse-App erklomm danach die Spitzenposition im US-App-Store von Apple, und Meta wurde an der Wall Street nach Milliarden-Investitionen in KI-Infrastruktur wieder als ein aussichtsreicher Anwärter im Wettbewerb um eine führende Rolle bei Künstlicher Intelligenz gesehen.
ChatGPT hatte den Hype um künstliche Intelligenz erst ausgelöst, bei dem neuesten KI-Assistenten kam Meta dem Vorreiter aber zuvor. Altman sagte zugleich, Dots sei «allem, was heute auf dem Markt verfügbar ist, weit voraus».
OpenAI-Chef: KI muss sicher sein
Altman sagte dem Sender CNBC zu GPT 6.1 Astra, es passiere öfter, dass ein getestetes Modell den Ansprüchen nicht genüge. Zu den Grundsätzen von OpenAI gehöre, dass die künstliche Intelligenz sicher sein und immer unter menschlicher Kontrolle bleiben müsse. Es solle möglich sein, die KI zu nutzen und sicher zu sein, dass «nichts Schlechtes passieren» werde.
Eigenmächtige Aktionen fortgeschrittener künstlicher Intelligenz von OpenAI hatten in den vergangenen Wochen wiederholt für Negativ-Schlagzeilen gesorgt. Erst am Wochenende wurde bekannt, dass die Firma nach einem neuen Zwischenfall das Training seiner leistungsstärksten KI-Modelle ausgesetzt habe. Bei dem Vorfall schaffte es ein KI-Modell in einem Test, Antworten von einem externen Chatbot zu bekommen, obwohl es eigentlich keinen Internet-Zugang haben sollte. (sda/awp/dpa/spo)