TikTok testet Schutz vor KI-Deepfakes
Warum digitale Identitäten für Unternehmen und Creator zum strategischen Schutzgut werden
Künstliche Intelligenz kann heute innerhalb weniger Minuten täuschend echte Videos erzeugen. Gesichter werden aus öffentlich verfügbaren Fotos rekonstruiert, Stimmen geklont und Personen scheinbar in Situationen versetzt, die nie stattgefunden haben. Was zunächst vor allem Prominente und Politiker betraf, entwickelt sich zunehmend zu einem Risiko für Unternehmen, Führungskräfte, Journalisten und Content Creator.
TikTok reagiert nun auf diese Entwicklung mit einem neuen Werkzeug zum Schutz vor KI-generierten Identitätsfälschungen. Das Unternehmen testet derzeit ein System, das Creator automatisch darüber informiert, wenn ihr Gesicht möglicherweise in einem KI-generierten Video verwendet wurde. Noch befindet sich das Programm in einer frühen Testphase und steht nur einer kleinen Gruppe von Nutzern in den USA zur Verfügung. Dennoch zeigt der Schritt, wohin sich soziale Plattformen künftig entwickeln: Der Schutz der eigenen digitalen Identität wird zu einem festen Bestandteil der Plattformstrategie.
Deepfakes werden immer realistischer
Noch vor wenigen Jahren waren aufwendig produzierte Deepfakes vor allem Forschungsprojekten oder Spezialisten vorbehalten. Inzwischen haben leistungsfähige KI-Modelle die Einstiegshürden erheblich gesenkt. Zahlreiche Anwendungen können heute Gesichter austauschen, Stimmen imitieren oder komplette Videos generieren, die für viele Betrachter kaum noch von echten Aufnahmen zu unterscheiden sind.
Damit steigt auch das Missbrauchspotenzial. Gefälschte Videos können zur Verbreitung von Falschinformationen, für Betrugsversuche oder zur Schädigung des Rufs von Unternehmen und Einzelpersonen eingesetzt werden. Besonders problematisch wird dies dann, wenn bekannte Gesichter öffentlich sichtbar sind und umfangreiches Bildmaterial im Internet verfügbar ist.
Für Unternehmen bedeutet dies, dass sich das Thema Deepfakes zunehmend von einem technischen Phänomen zu einem Risiko für Kommunikation, Compliance und Markenführung entwickelt.
So funktioniert das neue TikTok-System
Das neue Werkzeug basiert auf einer freiwilligen Identitätsprüfung. Creator, die teilnehmen möchten, verifizieren ihr Gesicht einmalig über einen Identitätsnachweis. Anschließend durchsucht TikTok automatisch die Plattform nach Videos, in denen dieses Gesicht mithilfe künstlicher Intelligenz nachgebildet worden sein könnte.
Werden potenzielle Treffer gefunden, erscheinen sie in einer Übersicht und können vom jeweiligen Nutzer überprüft werden. Handelt es sich tatsächlich um eine unzulässige Nachbildung, lassen sich sowohl die Videos als auch die verantwortlichen Accounts unmittelbar an TikTok melden.
Nach Angaben des Unternehmens dient die biometrische Verifikation ausschließlich der Erkennung möglicher KI-Fälschungen. Die hochgeladenen Ausweisdokumente sollen dabei nicht dauerhaft gespeichert werden.
Nach YouTube folgt nun auch TikTok
TikTok ist mit diesem Ansatz nicht allein. Bereits zuvor hatte YouTube angekündigt, betroffenen Personen mehr Möglichkeiten einzuräumen, gegen KI-generierte Nachbildungen ihrer Stimme oder ihres Gesichts vorzugehen.
Damit zeichnet sich ein neuer Trend ab. Während Plattformen bislang vor allem Inhalte moderierten, entwickeln sie zunehmend eigene Werkzeuge zum Schutz der digitalen Identität ihrer Nutzer. Die Verantwortung verlagert sich damit teilweise von den Betroffenen auf die Plattformbetreiber.
Für Unternehmen und professionelle Content Creator ist dies eine wichtige Entwicklung. Je stärker generative KI verbreitet wird, desto größer wird der Bedarf an technischen Lösungen, die gefälschte Inhalte automatisiert erkennen können.
Wer besonders gefährdet ist
Besonders anfällig für KI-generierte Identitätsfälschungen sind:
- Geschäftsführer und Vorstände
- Pressesprecher
- Journalisten
- Influencer und Creator
- Politiker
- Unternehmensgründer
- Experten mit hoher Medienpräsenz
Je mehr Bild- und Videomaterial öffentlich verfügbar ist, desto einfacher können moderne KI-Systeme überzeugende Deepfakes erzeugen.
Datenschutz trifft auf Identitätsschutz
Interessant ist dabei ein Perspektivwechsel. Gesichtserkennung und biometrische Verfahren wurden in den vergangenen Jahren häufig unter Datenschutzgesichtspunkten kritisch diskutiert. Nun erhalten dieselben Technologien eine neue Funktion: Sie sollen Menschen davor schützen, dass ihre Identität ohne Zustimmung von KI-Systemen missbraucht wird.
Damit entsteht ein Spannungsfeld zwischen Datenschutz und Sicherheit. Einerseits verlangen biometrische Verfahren besondere Sorgfalt beim Umgang mit personenbezogenen Daten. Andererseits könnten sie künftig zu den wirksamsten Instrumenten gehören, um Deepfakes überhaupt zuverlässig erkennen zu können.
Die Entwicklung dürfte deshalb auch politische und regulatorische Diskussionen beeinflussen. Mit dem europäischen AI Act wachsen die Anforderungen an Transparenz und Kennzeichnung KI-generierter Inhalte. Gleichzeitig suchen Plattformbetreiber nach technischen Lösungen, um Missbrauch möglichst früh zu erkennen.
Warum Unternehmen jetzt handeln sollten
Auch wenn TikToks neues Werkzeug zunächst nur in den USA getestet wird, betrifft die zugrunde liegende Entwicklung Unternehmen weltweit. Geschäftsführer, Pressesprecher oder bekannte Experten repräsentieren heute häufig zugleich die Marke ihres Unternehmens. Werden ihre Gesichter oder Stimmen für täuschend echte KI-Videos missbraucht, kann dies erhebliche Auswirkungen auf Vertrauen und Reputation haben.
Unternehmen sollten deshalb bereits heute organisatorische Vorkehrungen treffen. Dazu gehören verifizierte Social-Media-Profile, klare Meldewege bei Deepfake-Vorfällen sowie regelmäßige Überprüfungen der eigenen Online-Präsenz. Ebenso wichtig ist die Sensibilisierung von Mitarbeitern für KI-basierte Betrugsversuche, bei denen manipulierte Videos oder Sprachaufnahmen zum Einsatz kommen.
Je früher entsprechende Prozesse etabliert werden, desto schneller lässt sich im Ernstfall reagieren.
Der Schutz der digitalen Identität wird zum Standard
TikToks Testprogramm zeigt, wie sich soziale Plattformen an die Realität generativer KI anpassen. Künftig dürfte es nicht mehr ausreichen, lediglich problematische Inhalte zu löschen. Plattformen werden verstärkt Werkzeuge entwickeln müssen, die Fälschungen möglichst früh erkennen und Betroffene aktiv informieren.
Für Unternehmen, Medien und öffentliche Persönlichkeiten ist dies ein deutliches Signal: Der Schutz der eigenen digitalen Identität entwickelt sich zu einer neuen Aufgabe im Bereich der Unternehmenskommunikation und der digitalen Sicherheit. Wer heute sichtbar ist, muss künftig auch darauf vorbereitet sein, dass das eigene Gesicht oder die eigene Stimme zum Ziel KI-basierter Manipulationen werden können.
Quellen
- TikTok Newsroom: Informationen zu KI-Sicherheit und Content Credentials
- The Verge: Berichterstattung über das neue AI-Likeness-Detection-Programm von TikTok
- Digital Trends: TikTok is testing its own AI likeness detection tool
- Europäische Union: AI Act und Transparenzpflichten für KI-Systeme
Lizenzhinweis
Text und Bild: © TREND REPORT
Dieser Beitrag wird unter der Lizenz Creative Commons Namensnennung – Keine Bearbeitungen 4.0 International (CC BY-ND 4.0) veröffentlicht.
Lizenz: https://creativecommons.org/licenses/by-nd/4.0/deed.de
Redaktioneller Hinweis: Das beschriebene Erkennungssystem befindet sich derzeit in einer Testphase und ist nach Angaben von TikTok zunächst nur für eine begrenzte Anzahl ausgewählter Creator in den USA verfügbar. Eine Einführung in Europa oder Deutschland wurde bislang nicht angekündigt.
