Wenige Daten reichen für ein realistisches Video vom Bundeskanzler – Desinformation mit KI bei Wahlen ist längst Realität

Superwahljahr 2024 : Wenn die KI Wahlkampf betreibt

Knapp vier Mil­li­ar­den Men­schen in 70 Län­dern, fast die Hälf­te der Welt­be­völ­ke­rung, tre­ten laut Berech­nun­gen die­ses Jahr den Gang zur Wahl­ur­ne an, auch in Deutsch­land : Neben zahl­rei­chen Kom­mu­nal- und Land­tags­wah­len wer­den deut­sche Wahl­be­rech­tig­te im Juni über das Euro­päi­sche Par­la­ment abstim­men. Mit der zuneh­men­den Ver­brei­tung und Zugäng­lich­keit von Künst­li­cher Intel­li­genz wächst das Risi­ko, dass Wäh­ler des­in­for­miert und in ihrer Ent­schei­dung beein­flusst wer­den. Exper­ten des euro­päi­schen IT-Sicher­heits­her­stel­lers ESET gehen davon aus, dass Wahl­ma­ni­pu­la­tio­nen durch KI in ver­schie­de­nen For­men auf­tre­ten werden.

„Es ist sehr wahr­schein­lich, dass es in die­sem Jahr Mani­pu­la­ti­ons­ver­su­che durch KI bei Wah­len geben wird, zum Bei­spiel in Form von gefälsch­ten Poli­ti­ker­vi­de­os. Nicht nur poli­ti­sche Par­tei­en im eige­nen Land haben ein Inter­es­se dar­an, dem poli­ti­schen Geg­ner zu scha­den, auch aus­län­di­sche Akteu­re wer­den ver­su­chen, durch KI in den Wahl­kampf ein­zu­grei­fen“, erklärt Micha­el Klat­te, IT-Sicher­heits­exper­te bei ESET. „Wäh­ler in Deutsch­land müs­sen des­halb acht­sam sein, wenn sie auf Social Media oder in ande­ren Quel­len Nach­rich­ten kon­su­mie­ren – die KI-Tech­nik ist mitt­ler­wei­le so weit fort­ge­schrit­ten, dass selbst Pro­fis gefälsch­te Bil­der und Vide­os nicht auf den ers­ten Blick erkennen.“

Weni­ge Daten rei­chen für ein rea­lis­ti­sches Video vom Bundeskanzler

Gene­ra­ti­ve KI kann sehr rea­lis­ti­sche gefälsch­te Inhal­te erstel­len, soge­nann­te Deepf­akes. Die Idee dahin­ter : Die mani­pu­lier­ten Bil­der und Vide­os sol­len das Image von Poli­ti­kern beschä­di­gen und Ereig­nis­se insze­nie­ren, die nie statt­ge­fun­den haben. Ende letz­ten Jah­res mach­te bei­spiels­wei­se ein gefak­tes Video von Olaf Scholz die Run­de. Ziel sol­cher Aktio­nen ist es, poli­ti­sche Geg­ner zu dif­fa­mie­ren, was im Wahl­kampf Stim­men kos­ten kann.

Da die Pro­duk­ti­ons­tech­nik ste­tig aus­ge­feil­ter wird, fällt es immer schwe­rer, zwi­schen authen­ti­schen und gefälsch­ten Inhal­ten zu unter­schei­den. Um ein sol­ches Vide­os zu erstel­len, benö­tigt man nur das rich­ti­ge Roh­ma­te­ri­al an Daten, bei­spiels­wei­se Vide­os, Bil­der und Ton­auf­nah­men – all dies gibt es von Poli­ti­kern online en mas­se. KI-Tools, die mit Hil­fe die­ser Daten Bil­der, Tex­te und Audio­da­tei­en gene­rie­ren, sind online für eine gerin­ge Nut­zungs­ge­bühr ver­füg­bar und erstel­len inner­halb kür­zes­ter Zeit authen­tisch wir­ken­de Medien.

Des­in­for­ma­ti­on mit KI bei Wah­len ist längst Realität

In den USA, wo der Prä­si­dent­schafts­wahl­kampf bereits im vol­len Gan­ge ist, erfreu­en sich KI-Tools bereits gro­ßer Beliebt­heit, um poli­ti­sche Geg­ner zu dif­fa­mie­ren. So for­der­te bei­spiels­wei­se ein KI-Anru­fer Wäh­ler im US-Bun­des­staat New Hamp­shire dazu auf, nicht an den Vor­wah­len teil­zu­neh­men und tor­pe­dier­te somit den Wahl­kampf des amtie­ren­den US-Prä­si­den­ten Joe Biden.

In Deutsch­land wer­den Des­in­for­ma­ti­ons­kam­pa­gnen über ande­re Kanä­le ver­mu­tet : Vor allem Social-Media-Platt­for­men und Mes­sen­ger-Diens­te wie Tik­Tok, Insta­gram sowie Tele­gram und Whats­App wer­den schon heu­te dazu genutzt, um Falsch­in­for­ma­tio­nen zu ver­brei­ten – auch, wenn deren Betrei­ber schon viel tun, um dem ent­ge­gen­zu­wir­ken. Im Wahl­kampf wer­den Betrü­ger die gro­ße Reich­wei­te die­ser Kanä­le nut­zen, um Falsch­in­for­ma­tio­nen schnell an vie­le Emp­fän­ger zu verteilen.

Tipps zur Erken­nung von KI-gesteu­er­ter Falschinformation

Die gute Nach­richt ist : Demo­kra­tien schau­en nicht taten­los dabei zu, wenn ihre Wahl­pro­zes­se dro­hen, mani­pu­liert zu wer­den. Das Ende 2022 in der EU in Kraft getre­te­ne “ Gesetz über digi­ta­le Diens­te“ (Digi­tal Ser­vices Act) nimmt Such­ma­schi­nen- und auch Social-Media-Betrei­ber in die Pflicht, Risi­ken bei Wahl­pro­zes­sen abzu­mil­dern. Dazu gehört auch die Reak­ti­on auf Des­in­for­ma­ti­on. Die Löschung frag­wür­di­ger Inhal­te kann trotz­dem eini­ge Zeit in Anspruch neh­men. Nut­zer soll­ten sich des­halb an die fol­gen­den Tipps hal­ten, wenn sie auf schein­bar bri­san­te Neu­ig­kei­ten und Skan­da­le poli­ti­scher Wür­den­trä­ger im Inter­net stoßen :

1. Über­prü­fen Sie die Quel­le : Über­prü­fen Sie die Glaub­wür­dig­keit der Quel­le, ins­be­son­de­re bei unbe­kann­ten oder frag­wür­di­gen Nachrichtenquellen.
2. Ana­ly­sie­ren Sie den Inhalt : Ach­ten Sie auf Anzei­chen von Unstim­mig­kei­ten, Unge­nau­ig­kei­ten oder über­mä­ßig emo­tio­na­len Inhal­ten, die auf eine mög­li­che Mani­pu­la­ti­on hin­wei­sen könnten.
3. Ach­ten Sie auf Details : Obwohl KI-Tech­no­lo­gien immer bes­ser wer­den, kommt es immer noch zu Feh­lern und Unge­nau­ig­kei­ten. Häu­fig sehen auf Bil­dern bei­spiels­wei­se Hän­de unna­tür­lich aus, in Vide­os wir­ken Lip­pen­be­we­gun­gen unge­nau bzw. asynchron.

______________________

Quel­le : ESET Deutsch­land GmbH, Chris­ti­an Lueg, Head of Com­mu­ni­ca­ti­on & PR DACH / Micha­el Klat­te, PR Mana­ger DACH
Ori­gi­nal-Con­tent von : ESET Deutsch­land GmbH, über­mit­telt durch news aktuell

Foto­credit : Ado­be­Stock 632957399 / Brisystem