Trend Micro prevê multiplicação de ataques impulsionados por IA

O uso da Inteligência Artificial (IA), especialmente de ferramentas generativas, em golpes virtuais vai crescer significativamente nos próximos anos.

O estudo “Critical Scalability: Previsões de Segurança para 2024, da Trend Micro vislumbra “um tsunami de ataques sofisticados de engenharia social”, com táticas baseadas em ferramentas de IA Generativa alimentadas pelo roubo de credenciais.

Segundo o relatório, a ampla disponibilidade e a melhoria da qualidade da IA Generativa, juntamente com o uso das Redes Generativas Adversárias (GANs), vão sacudir o mercado de phishing em 2024.

Essa transformação permitirá a criação de conteúdo de áudio e vídeo hiper-realista – golpistas poderão se passar por executivos importantes, como CEOs, para solicitar transferências de dinheiro – impulsionando uma nova onda de ataques de Business Email Compromise (BEC), conhecidos também como “Fraude do CEO”, além de sequestros virtuais, entre outras modalidades de golpes.

“Os recursos de IA e LLM (Modelos de Linguagem Grande), eficientes em qualquer idioma, representam uma ameaça significativa pois eliminam os indicadores tradicionais de phishing, como formatação estranha ou erros gramaticais, tornando-os extremamente difíceis de detectar. As empresas devem adotar controles modernos de segurança para elevar suas defesas e garantir resiliência contra essas táticas”, destaca Eric Skinner, vice-presidente de Estratégia de Mercado da Trend Micro.

Os pesquisadores da empresa dizem que a perspectiva de lucros cada vez mais altos motiva os cibercriminosos a desenvolverem ferramentas nefastas de IA Generativa para essas campanhas, além da utilização de ferramentas legítimas para o roubo de credenciais e VPNs para ocultação de identidades.

Os próprios modelos de IA também podem ser alvos em 2024. Embora os modelos de Machine Learning baseados em nuvem sejam muito mais atraentes, já que os conjuntos de dados de IA Generativa e LLM são mais difíceis de influenciar, os conjuntos de dados mais focados no que são treinados podem ser selecionados para ataques de comprometimento de dados com diferentes objetivos, desde a exfiltração de informações confidenciais até o bloqueio de filtros contra fraudes e veículos conectados.

Esses ataques já custam menos de US$ 100 para serem realizados.

Essas tendências podem, por sua vez, “levar ao aprimoramento do processo regulatório, impulsionando inclusive o setor de segurança cibernética a tomar as rédeas da questão”.

“No próximo ano, a indústria cibernética começará a superar o governo no que diz respeito ao desenvolvimento de políticas de regulamentação de segurança específicas para IA”, garante Greg Young, vice-presidente de Segurança Cibernética da Trend Micro.

O relatório de Previsões da Trend Micro destaca, ainda, para 2024 o aumento nos ataques de worms, a necessidade de investimento em segurança na nuvem, crucial para as organizações resolverem as lacunas de segurança e o aumento dos ataques à cadeia de suprimentos.

Neste último caso, os ataques terão como alvo não apenas componentes de softwares de código aberto Upstream (originais), mas também recursos do Sistema de Gerenciamento de Segurança (SIM) de telecomunicações, essenciais para sistemas de frota e inventários.