Histórias de ficção científica levaram-nos a acreditar que a guerra entre humanos e IA envolveria mais explosões, mas na realidade a luta contra os nossos amigos sintéticos tomou um rumo muito mais subtil, mas talvez igualmente eficaz.
O que é veneno de IA?
Com IA generativa, como GPT ou DALL-E, esses programas desenvolvem sua capacidade de criar escrita, música, vídeo e imagens aprendendo com conjuntos de dados absolutamente massivos.
É assim que um programa como o MidJourney pode criar qualquer imagem arbitrária que você solicitar, como "Um unicórnio fumando charuto no estilo de Van Gogh" ou "Um robô bebendo veneno", como ironicamente pedi ao MidJourney para desenhar. Esta é certamente uma habilidade incrível para um programa de computador, e os resultados melhoraram muito.
No entanto, muitos dos artistas cujo trabalho foi usado como parte desse conjunto de dados não estão satisfeitos com isso. O problema é que, pelo menos no momento em que este livro foi escrito, o uso dessas imagens para treinar modelos de IA está em uma área legal cinzenta ou não é proibido por lei, dependendo da região. Como é habitual, a legislação levará algum tempo a acompanhar a tecnologia, mas entretanto surgiu uma solução potencial sob a forma de "veneno de IA".
Um veneno de IA altera algo que pode ser usado para treinar um modelo de IA de tal forma que torna os dados inúteis ou até prejudica o modelo, causando seu mau funcionamento. As mudanças feitas no material de origem são tais que um ser humano não notaria. É aqui que ferramentas como Beladona e Esmalte entram em cena.
Imagine que você tem a foto de um cachorro. Uma ferramenta de veneno de IA pode alterar os pixels da imagem de tal forma que, para nós, a imagem ainda pareça um cachorro, mas para uma IA treinada nesta imagem "envenenada", o cachorro pode estar associado a algo totalmente diferente, como um gato ou um objeto aleatório. Isso é o mesmo que ensinar à IA informações erradas de propósito.
Quando um modelo de IA é treinado com um número suficiente dessas imagens "envenenadas", sua capacidade de gerar imagens precisas ou coerentes com base em seus dados de treinamento fica comprometida. A IA pode começar a produzir imagens distorcidas ou interpretações completamente incorretas de determinados prompts.
Por que existem venenos de IA?
Como mencionei brevemente acima, existem ferramentas venenosas de IA para dar aos artistas (no caso de conteúdo visual) uma maneira de lutar contra o uso de suas imagens para treinar modelos de IA. Existem alguns motivos pelos quais eles estão preocupados, incluindo, mas não se limitando a:
- Medo de ser substituído ou perder trabalho para a IA.
- Tendo seu estilo de arte e identidade únicos replicados.
- Sentir que os seus direitos intelectuais foram violados, independentemente das legalidades vigentes.
Dada a natureza da Internet e a facilidade de "raspar" dados da Web, estes artistas são impotentes para impedir que as suas imagens sejam incluídas em conjuntos de dados. Porém, ao "envenená-los", eles podem não apenas impedir que sua arte seja utilizada, mas também danificar o modelo como um todo.
Isso é um pouco tarde demais?
Embora a ideia de venenos de IA para impedir que modelos de arte de IA usem certas imagens seja interessante, pode ser tarde demais para que isso atinja os objetivos que impulsionaram sua invenção em primeiro lugar.
Primeiro, esses venenos não afetarão nenhum modelo de geração de imagens já existente. Portanto, quaisquer habilidades que eles já possuam vieram para ficar. Afeta apenas o treinamento de modelos futuros.
Em segundo lugar, os investigadores de IA aprenderam muito durante as fases iniciais de formação destes modelos. Existem agora abordagens para modelos de treinamento que podem funcionar com conjuntos de dados muito menores. Eles não precisam do grande número de imagens que precisavam antes, e a necessidade de extrair grandes quantidades de dados da web pode não ser a prática padrão no futuro.
Terceiro, agora que os modelos já existem, é possível treiná-los em conjuntos de dados "éticos". Em outras palavras, conjuntos de dados que têm permissão ou direitos explícitos para serem usados para treinar IA. Isto é o que a Adobe tentou com seu Firefly e seu dados de "fonte ética".
Portanto, embora os venenos da IA certamente possam impedir que os modelos incluam seu trabalho ou tornar inúteis os conjuntos de dados extraídos da web como um todo, é improvável que faça algo sobre o avanço e a implementação da tecnologia deste ponto em diante.



