Ladrões usaram tecnologia de áudio deepfake para clonar a voz de um empresário e ordenar uma transferência de US $ 35 milhões para contas no exterior, de acordo com um documento judicial obtido por Forbes. É o roubo de “voz profunda” de maior sucesso até agora, embora possa ser apenas uma pequena parte de uma tendência crescente.
A tecnologia Deepfake é bastante conhecida neste momento. Basicamente, as pessoas treinam uma IA para recriar o rosto de alguém, geralmente o rosto de um ator ou outro indivíduo conhecido. O AI pode então animar e colar esse rosto em um vídeo de referência, inserindo assim o assunto clonado em uma cena.
Mas você não pode simplesmente colocar alguém em um vídeo sem recriar sua voz. E é aí que os deepfakes de áudio entram em ação - você treina uma IA para replicar a voz de alguém e, em seguida, diz à IA o que dizer na voz dessa pessoa.
Quando a tecnologia deepfake atingir um certo nível de realismo, os especialistas acreditam que ela conduzirá uma nova era de desinformação, assédio e reinicializações de filmes ruins. Mas parece que a tecnologia de “voz profunda” já atingiu o auge.
Em 2020, um gerente de banco nos Emirados Árabes Unidos recebeu um telefonema do diretor de uma grande empresa. Uma grande aquisição estava em andamento, de acordo com o diretor, então ele precisava que o banco autorizasse US $ 35 milhões em transferências para várias contas nos Estados Unidos. O diretor apontou para os e-mails de um advogado para confirmar a transferência e, como tudo parecia legítimo, o gerente do banco passou.
Mas o “diretor” dessa empresa era na verdade um algoritmo de “voz profunda” treinado para soar como sua vítima. Os Emirados Árabes Unidos estão agora buscando ajuda dos EUA para recuperar os fundos perdidos, que foram contrabandeados para contas em todo o mundo por um grupo de 17 ou mais ladrões.
Este não é o primeiro roubo profundo de áudio, mas, novamente, é o de maior sucesso até agora. Operações semelhantes ocorrerão no futuro, provavelmente em uma escala muito maior. Então, o que as empresas e os governos podem fazer para mitigar a ameaça? Bem, é difícil dizer.
Como os deepfakes estão melhorando constantemente, eles eventualmente se tornarão convincentes demais para que os humanos os identifiquem de maneira adequada. Mas a IA treinada pode ser capaz de detectar deepfakes, já que rostos e vozes clonados geralmente contêm pequenos artefatos e erros, como ruído digital ou pequenos sons que são impossíveis de serem produzidos por humanos.
Fonte: Forbes


