Deepfakes jsou novou aplikací umělé inteligence s významným dopadem na počítačovou bezpečnost. Jejich tvorba je stále snazší než kdykoli předtím a tyto nástroje lze využít k oklamání jednotlivců i organizací, zejména v kombinaci s taktikami sociálního inženýrství, jako je phishing. Tento projekt se proto zaměřuje na pochopení možných způsobů použití a souvisejících hrozeb při zákeřném používání hlasových deepfakes se záměrem najít spolehlivé strategie pro zmírnění těchto hrozeb. Tím můžeme zajistit, aby tyto inovace byly využívány eticky a zodpovědně, a vytvořit tak udržitelnější a spravedlivější budoucnost pro všechny. Aktivity projektu jsou zaměřeny na 3 oblasti: zvýšení odolnosti hlasových biometrických systémů vůči útokům typu deepfakes spoofing, vytvoření nástrojů umožňující boj proti škodlivému použití hlasových deepfakes a vyhodnocení schopnosti lidí rozpoznat hlasové deepfakes a nalezení způsobů, jak zvýšit bezpečnostní povědomí uživatelů.

Popis anglicky
Deepfakes are a new application of artificial intelligence with a significant impact on computer security. They are becoming easier than ever to create, and these tools can be used to deceive individuals and organizations, especially when combined with social engineering tactics such as phishing.  This project therefore focuses on understanding the possible uses and associated threats in the malicious use of voice deepfakes, with the intention of finding reliable strategies to mitigate these threats. By doing so, we can ensure that these innovations are used ethically and responsibly, creating a more sustainable and fairer future for all.  Its activities are focused on three main areas: enhancing the robustness of voice biometric systems against voice deepfake spoofing attacks, creating tools to counter the malicious use of voice deepfakes, and evaluating people's ability to recognize voice deepfakes, while also finding ways to increase users' security awareness.

Klíčová slova
Deepfakes; umělá inteligence; počítačová bezpečnost

Klíčová slova anglicky
Deepfakes; artificial intelligence; computer security

VB02000060

čeština

Kudla Radim, Ing. - hlavní řešitel
Brukner Jan, Ing. - spoluřešitel
Burget Lukáš, doc. Ing., Ph.D. - spoluřešitel
Černocký Jan, prof. Dr. Ing. - spoluřešitel
Firc Anton, Ing. - spoluřešitel
Foltyn Lukáš, Bc. - spoluřešitel
Halas Jaromír - spoluřešitel
Hanáček Petr, doc. Dr. Ing. - spoluřešitel
Knapovský Jan, Bc. - spoluřešitel
Kotolan Martin - spoluřešitel
Matějka Pavel, Ing., Ph.D. - spoluřešitel
Mihola David, Bc. - spoluřešitel
Plchot Oldřich, Ing., Ph.D. - spoluřešitel
Polok Alexander, Ing. - spoluřešitel
Reš Jakub, Ing. - spoluřešitel
Rohdin Johan Andréas, M.Sc., Ph.D. - spoluřešitel
Schwarz Petr, Ing., Ph.D. - spoluřešitel
Silnova Anna, M.Sc., Ph.D. - spoluřešitel
Staněk Vojtěch, Ing. - spoluřešitel
Šalko Milan, Ing. - spoluřešitel

Ústav počítačové grafiky a multimédií
- odpovědné pracoviště (20.4.2023 - nezadáno)
Phonexia
- spolupříjemce (20.4.2023 - 31.12.2026)
Ústav inteligentních systémů
- spolupříjemce (20.4.2023 - 31.12.2026)
Ústav počítačové grafiky a multimédií
- příjemce (20.4.2023 - 31.12.2026)

ROHDIN, J.; ZHANG, L.; PLCHOT, O.; STANĚK, V.; MIHOLA, D.; PENG, J.; STAFYLAKIS, T.; BEVERAKI, D.; SILNOVA, A.; BRUKNER, J.; BURGET, L. BUT systems and analyses for the ASVspoof 5 Challenge. Proceedings of ASV spoof 2024 Workshop. Kos Island: International Speech Communication Association, 2024. p. 24-31.
Detail

POLOK, A.; KLEMENT, D.; HAN, J.; SEDLÁČEK, Š.; YUSUF, B.; MACIEJEWSKI, M.; WIESNER, M.; BURGET, L. BUT/JHU System Description for CHiME-8 NOTSOFAR-1 Challenge. Proceedings of CHiME 2024 Workshop. Kos Island: International Speech Communication Association, 2024. p. 18-22.
Detail

WANG, S.; CHEN, Z.; HAN, B.; WANG, H.; XIANG, X.; ROHDIN, J.; SILNOVA, A.; QIAN, Y.; LI, H. Advancing speaker embedding learning: Wespeaker toolkit for research and production. Speech Communication, 2024, vol. 162, no. 103104, p. 1-12. ISSN: 0167-6393.
Detail

ALAM, J.; BARAHONA QUIRÓS, S.; BOBOŠ, D.; BURGET, L.; CUMANI, S.; DAHMANE, M.; HAN, J.; HLAVÁČEK, M.; KODOVSKÝ, M.; LANDINI, F.; MOŠNER, L.; PÁLKA, P.; PAVLÍČEK, T.; PENG, J.; PLCHOT, O.; RAJASEKHAR, P.; ROHDIN, J.; SILNOVA, A.; STAFYLAKIS, T.; ZHANG, L. ABC SYSTEM DESCRIPTION FOR NIST SRE 2024. Proceedings of NIST SRE 2024. San Juan: National Institute of Standards and Technology, 2024. p. 1-9.
Detail

STAFYLAKIS, T.; SILNOVA, A.; ROHDIN, J.; PLCHOT, O.; BURGET, L. Challenging margin-based speaker embedding extractors by using the variational information bottleneck. In Proceedings of Interspeech 2024. Proceedings of Interspeech. Kos: International Speech Communication Association, 2024. p. 3220-3224. ISSN: 1990-9772.
Detail

Odpovědnost: Kudla Radim, Ing.