Defesa contra o uso de falsificações para exploração cibernética

O crime cibernético aumentou vertiginosamente este ano. De julho de 2020 a junho de 2021, descobrimos que houve um aumento de quase 11 vezes nos ataques de ransomware. E esse número continua crescendo. Mas o próximo desafio é muito mais do que apenas o número crescente de ataques. Também estamos vendo um aumento nos ataques a alvos de alto perfil - e o surgimento de novas metodologias.

Deepfakes e Deep Attacks

Deepfakes, que realmente começaram a ganhar destaque em 2017, foram amplamente popularizados para fins de entretenimento. Dois exemplos são pessoas criando memes de mídia social inserindo Nicolas Cage em filmes em que ele não estava ou no documentário recente de Anthony Bourdain , que usou tecnologia deepfake para emular a voz do chef celebridade falecido. Também houve casos de uso benéficos para tecnologias falsas profundas no campo médico.

Infelizmente, mais uma vez, a maturidade da tecnologia deepfake não passou despercebida pelos bandidos. No mundo da segurança cibernética, os deepfakes são um motivo crescente de preocupação porque usam inteligência artificial para imitar atividades humanas e podem ser usados ​​para aumentar os ataques de engenharia social.

GPT-3 (Generative Pre-Training Transformer) é um sistema baseado em IA que usa o aprendizado profundo da linguagem para criar e-mails que são lidos naturalmente e são bastante convincentes. Com ele, os invasores podem usar endereços de e-mail apropriados, comprometendo servidores de e-mail ou executando ataques man-in-the-middle para gerar e-mails e respostas de e-mail que imitam o estilo de escrita, a escolha das palavras e o tom da pessoa que está sendo falsificada. Isso pode incluir um gerente ou executivo, até mesmo fazendo referências a correspondências anteriores.

Criar e-mails é apenas o começo. Ferramentas de software que podem clonar a voz de alguém já existem online, com outras em desenvolvimento. Uma impressão digital vocal de alguém pode ser criada usando apenas alguns segundos de áudio e, em seguida, o software gera uma fala arbitrária em tempo real.

Embora ainda em estágio inicial de desenvolvimento, os vídeos deepfake se tornarão problemáticos à medida que o desempenho da unidade central de processamento (CPU) / unidade de processamento gráfico (GPU) se torna mais poderoso e mais barato. A barreira para a criação desses deepfakes também será reduzida com a comercialização de aplicativos avançados. Isso poderia levar a personificações em tempo real em aplicativos de voz e vídeo que poderiam passar por análises biométricas. As possibilidades são infinitas, incluindo a eliminação de impressões de voz como forma de autenticação.

Counterfit, uma ferramenta de código aberto, é um sinal de esperança. A ferramenta recém-lançada permite que as organizações testem os sistemas de IA - incluindo reconhecimento facial, reconhecimento de imagem, detecção de fraude e assim por diante - para garantir que os algoritmos usados ​​sejam confiáveis. Eles também podem usar essa ferramenta para jogos de guerra em vermelho / azul. Também podemos esperar que os invasores façam o mesmo, usando esta ferramenta para identificar vulnerabilidades em sistemas de IA.

Agindo contra fraudes

À medida que essas tecnologias de prova de conceito se tornam comuns, os líderes de segurança precisarão mudar a forma como detectam e mitigam os ataques. Isso certamente incluirá combater fogo com fogo - isto é, se os bandidos estão usando IA como parte de seu ataque, os defensores também devem estar usando. Um exemplo é o aproveitamento de tecnologias de IA que podem detectar pequenas anomalias de voz e vídeo.

Nossas melhores defesas atualmente são o acesso de confiança zero que restringe usuários e dispositivos a um conjunto predefinido de ativos, segmentação e estratégias de segurança integradas projetadas para detectar e restringir o impacto de um ataque.

Também precisaremos renovar o treinamento do usuário final para incluir como detectar solicitações suspeitas ou inesperadas que chegam por voz ou vídeo - além daquelas vindas de e-mail. Para comunicações falsificadas, incluindo malware incorporado, as empresas precisarão monitorar o tráfego para detectar uma carga útil. Isso significa ter dispositivos instalados que são rápidos o suficiente para inspecionar o streaming de vídeo sem afetar a experiência do usuário.

Lute contra os Deepfakes agora

Quase toda tecnologia se torna uma faca de dois gumes, e o software deepfake baseado em IA não é exceção. Atores maliciosos já estão usando IA de várias maneiras - e isso só vai se expandir. Em 2022, observe se eles usam deepfakes para imitar as atividades humanas e realizar ataques aprimorados de engenharia social. Ao implementar as recomendações acima, as organizações podem tomar medidas proativas para permanecer seguras, mesmo com o advento desses ataques sofisticados.