CISA, NSA und FBI veröffentlichen Warnhinweis zur Wissensdestillation US-amerikanischer KI-Modelle durch KI-Unternehmen mit Sitz in China
KI-generiert (AI). Dieser Text wurde von künstlicher Intelligenz automatisch erstellt und übersetzt und softwaregestützt mit den angegebenen Quellen abgeglichen; keine menschliche Prüfung. Keine Rechtsberatung.
Korrigiert am — Korrekturprotokoll
Zusammenfassung
Die CISA hat gemeinsam mit der National Security Agency und dem Federal Bureau of Investigation einen gemeinsamen Cybersicherheitshinweis zu KI-Unternehmen mit Sitz in China veröffentlicht, die US-amerikanische KI-Unternehmen ins Visier nehmen, um proprietäre Modelle durch Kampagnen zur Wissensdestillation zu extrahieren. Dem Hinweis zufolge haben DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun und Z.AI seit mindestens Ende 2024 wahrscheinlich Milliarden von Tokens über Millionen von Anfragen aus US-amerikanischen Frontier-Modellen extrahiert, wahrscheinlich mit Wissen der chinesischen Regierung. Er empfiehlt US-amerikanischen Frontier-Unternehmen, bösartige Aktivitäten zu erkennen und abzumildern, gezielte Anpassungen der Reaktion bei mutmaßlichen Destillationsversuchen einzusetzen und einen organisationsübergreifenden Austausch von Erkenntnissen einzurichten.
Warum es wichtig ist
Der Hinweis richtet sich an US-amerikanische Frontier-KI-Unternehmen und legt 3 empfohlene Sofortmaßnahmen dar, um ihre Plattformen vor Destillationskampagnen zu schützen. Er beschreibt die Aktivität als Verstoß gegen die Nutzungsbedingungen der Unternehmen und als Beeinträchtigung des fairen Wettbewerbs. Das Dokument enthält keine verbindliche Anforderung und keine Frist.
- Beteiligte
- Cybersecurity and Infrastructure Security Agency; National Security Agency; Federal Bureau of Investigation
- Primärquelle
- CISA (cisa.gov)
Quelle abgerufen: . Quellen sind oft in anderen Sprachen; Links öffnen das Original. - Themen
- Allgemeine KI-Governance · Frontier-Modelle und Sicherheit