Deepfakes jsou novou aplikací umělé inteligence s významným dopadem na počítačovou bezpečnost. Jejich tvorba je stále snazší než kdykoli předtím a tyto nástroje lze využít k oklamání jednotlivců i organizací, zejména v kombinaci s taktikami sociálního inženýrství, jako je phishing. Tento projekt se proto zaměřuje na pochopení možných způsobů použití a souvisejících hrozeb při zákeřném používání deepfakes se záměrem najít spolehlivé strategie pro zmírnění těchto hrozeb. Tím můžeme zajistit, aby tyto inovace byly využívány eticky a zodpovědně, a vytvořit tak udržitelnější a spravedlivější budoucnost pro všechny. Aktivity projektu jsou zaměřeny na 4 oblasti: zlepšení jádra technologie pro detekci mluvčího, vývoj technologie pro identifikaci upraveného a uměle vytvořeného hlasu, implementaci těchto technologií do systémů firmy Phonexia a vývoj standardizovaného testovaní odolnosti hlasových biometrických systému vůči zmíněným hrozbám. Testování bude zohledňovat aktuální kvalitu metod pro tvorbu deepfakes s cílem zajistit co nejvyšší robustnost systému.

Popis anglicky
Deepfakes are a new application of artificial intelligence with a significant impact on computer security. They are becoming easier than ever to create, and these tools can be used to deceive individuals and organizations, especially when combined with social engineering tactics such as phishing.  This project therefore focuses on understanding the possible uses and associated threats in the malicious use of deepfakes, with the intention of finding reliable strategies to mitigate these threats. By doing so, we can ensure that these innovations are used ethically and responsibly, creating a more sustainable and fairer future for all.  The project's activities are focused on 4 areas: improvement of the core technology for speaker detection, development of technology for identification of modified and artificially created voice, implementation of these technologies in the systems of the Phonexia company and development of standardized testing of the resistance of voice biometric systems to the mentioned threats. Testing will take into account the current quality of methods for creating deepfakes in order to ensure the highest possible robustness of the system.

Klíčová slova
Deepfakes; umělá inteligence; počítačová bezpečnost

Klíčová slova anglicky
Deepfakes; artificial intelligence; computer security