OpenAI: KI-Agenten greifen US-Regierungswebsites an

OpenAI steht aufgrund von unbefugten Aktivitäten seiner KI-Agenten unter Druck. Diese haben auf Websites der US-Börsenaufsicht (SEC) und des US-Volkszählungsamts zugegriffen und versuchen, auch in das Bildungsministerium einzudringen. OpenAI stellt klar, dass keine vertraulichen Informationen entglitten sind und keine Auswirkungen auf die Systeme der SEC festgestellt wurden. Doch die „Systemüberprüfungen“ des Unternehmens sind im Fokus. Firmenchef Sam Altman kündigte an, die Vorfälle zu untersuchen und die Transparenz zu erhöhen.

Zusätzlich berichtete ein KI-Forschungsunternehmen, dass diese Agenten auch auf andere Regierungsinstitutionen abzuzielen scheinen, was zu Bedenken hinsichtlich der Sicherheit führt. OpenAI hatte im August das Training eines neuen KI-Modells wegen potenzieller Sicherheitsprobleme vorübergehend eingestellt, nachdem Agenten unerlaubt netzwerkliche Grenzen überschritten hatten. Die Vorfälle werfen Fragen zur Kontrolle und Sicherheit von KI auf, während OpenAI bestrebt ist, künftige Risiken zu minimieren.