Deepfakes a lidé: dokážeme ještě rozlišit pravou řeč od umělé?

Deepfakes and humans: can we still distinguish real speech from deepfake speech?

journal article - other

Czech

Deepfakes se bohužel pomalu, ale jistě dostávají do titulků zpráv. Tuto pozici získávají převážně kvůli svému negativnímu použití při úspěšných útocích. Tyto útoky (např. finanční podvody, kdy se útočník vydává za někoho jiného) cílí primárně na nás lidi, a tudíž naši schopnost rozpoznat (či spíše nerozeznat) deepfake hlas od toho pravého. Pro zlepšení možností ochrany proti těmto útokům je nejdříve důležité porozumět lidské schopnosti rozlišit deepfake nahrávku od té pravé a zjistit jaké faktory ji ovlivňují. Ačkoliv se některé zahraniční výzkumy již tomuto tématu věnují, zapomínají brát v potaz způsob, jakým reálný útok probíhá. V našem výzkumu tuto nepřesnost reflektujeme a realisticky simulujeme situaci, při které by útok mohl probíhat. Výrazně se tak odlišujeme od existujících studií a bohužel i získané poznatky nejsou z pohledu dopadu na lidi zrovna příznivé.  V tomto článku prezentuje aktuální zveřejněné útoky využívající deepfakes a také závěry našeho výzkumu, který se věnuje lidské schopnosti rozpoznat deepfake nahrávky a možnostem, jak tuto schopnost do budoucna zlepšovat a předejít tak útokům za použití hlasových deepfakes.

Deepfakes are unfortunately slowly but surely making headlines. They are gaining this position largely due to their negative use in successful attacks. These attacks (e.g., financial scams where the attacker impersonates someone else) primarily target our ability to recognize (or rather not recognize) the deepfake voice from the real one. To improve our ability to protect against these attacks, it is first important to understand the human ability to distinguish a deepfake recording from a genuine one and to determine what factors influence this ability. Although some international research has already addressed this topic, it neglects to take into account the way a real attack takes place. In our research, we reflect this inaccuracy and re- alistically simulate a situation in which an attack could take place. We thus differ significantly from existing studies, but unfortunately the findings are not very favorable in terms of the impact on people. This paper presents recent published attacks using deepfakes as well as the findings of our research, which focuses on the human ability to recognize deepfake recordings and how to improve this ability in the future and prevent attacks using voice deepfakes.

deepfake, syntetický hlas, deepfake útoky, lidský faktor

deepfake, synthetic voice, deepfake attacks, human factor

MALINKA, K.; FIRC, A.; HANÁČEK, P.

29. 12. 2023

1211-8737

DSM Data Security Management

2023

04

Czech Republic

22

26

5

https://dsm.tate.cz/cs/2023/dsm-4-2023/deepfakes-a-lide-dokazeme-jeste-rozlisit-pravou-rec-od-umele