Inteligência Artificial na Cibersegurança: os 5 grandes desafios

A IA está “na moda” e o seu potencial é inquestionável, no entanto, no campo da cibersegurança, os executivos devem considerar alguns pontos quando adotam a IA no seu programa de segurança.

É

essencial recordar o que faz a IA funcionar para que as empresas a possam utilizar corretamente. A eficácia da ferramenta depende da forma como é utilizada. No domínio da cibersegurança, e entre outros exemplos, os algoritmos de IA podem criar mapeamentos de probabilidade de um determinado conjunto de dados, e depois determinar o que seria gerado probabilisticamente da mesma forma, ou seja, têm a capacidade de determinar a probabilidade de um ficheiro, padrão de tráfego ou comportamento ser malicioso, mesmo que esse evento específico nunca tenha sido visto antes.

No entanto, existem desafios fundamentais, para alcançar este resultado, que têm de ser resolvidos para que a IA possa ser utilizada, também ela, em segurança. A Palo Alto Networks, representada em Portugal pela Exclusive Networks, lista os 6 principais desafios que devem ser endereçados sob pena de toldarem a perceção da IA na cibersegurança

Desafio #1

Dados e algoritmos: A fundação do poder da IA e a potencial armadilha

A IA é tão boa quanto o algoritmo que está a ser utilizado e os dados com

que é treinada. Se o algoritmo não estiver a mapear o conjunto de dados para os parâmetros que são indicadores da atividade maliciosa, então nenhum dado no mundo será relevante, e os eventos maliciosos passarão despercebidos. Por outro lado, se o algoritmo correto não receber dados suficientes e com a qualidade adequada, então os mapeamentos nunca serão capazes de criar um nível suficientemente elevado de distribuição de probabilidade e ocorrerão eventos falsos (tanto positivos como negativos), uma vez que o algoritmo chegará à conclusão errada.

Desafio #2

Ofuscação: Confiar na caixa negra

Alguns fornecedores fazem com que os seus modelos de IA funcionem como “caixas negras”, ofuscando o algoritmo e os processos de tomada de decisão. Esta falta de visibilidade pode ser problemática, dificultando ou mesmo impossibilitando a compreensão do motivo pelo qual a IA assinala determinados eventos como suspeitos e levanta preocupações sobre a responsabilidade e potenciais enviesamentos.

Desafio #3

Integração e especialização: Para além da fantasia do Plug-and-Play

As soluções de IA não são soluções mágicas do tipo “plug-and-play”. Requerem integração com a infraestrutura de segurança existente e conhecimentos especializados para interpretação e aproveitamento máximo dos seus resultados de forma eficaz. As equipas de segurança têm de ser formadas para compreenderem bem como funciona a IA, para perceberem as suas limitações e a melhor forma de a integrarem nas políticas de segurança.

Desafio #4

Quebrar o mito de que a IA melhora automaticamente qualquer ferramenta de cibersegurança

Embora muitos fornecedores da área da cibersegurança promovam esta ideia como verdadeira, a realidade é que muitos algoritmos de IA não se adequam às necessidades. O algoritmo errado conduzirá a maus resultados.

Desafio #5

Quebrar o mito de que existem soluções “One-Size-Fits-All”

Diferentes soluções de IA respondem a diferentes necessidades. Compreender os seus requisitos específicos e escolher a ferramenta certa é crucial para uma implementação bem-sucedida.

Desafio #6

Quebrar o mito de que, com a IA, a segurança é inviolável

A IA, como qualquer tecnologia, é suscetível a ataques. A monitorização contínua e a adaptação dos sistemas de IA são cruciais para manter a sua eficácia.

Segundo Elizabeth Alves, Sales Director Exclusive Networks Portugal, os executivos têm de estar atentos a vários pormenores.

"É altamente aconselhável avaliar a integração da IA de um fornecedor de cibersegurança nas suas linhas de

produtos através de uma análise aprofundada.

Se um fornecedor não conseguir explicar como o algoritmo está a funcionar, como está a ser treinado e com que tipos de dados, então o potencial de problemas pode acrescentar mais riscos do que aqueles que o fornecedor afirma resolver.”

Destacou ainda “Este modelo de correspondência de padrões enquadra-se tecnicamente na definição básica de IA e foi a base dos motores IDS/IPS originais, mas não é suficientemente robusto ou “inteligente” para resolver os desafios

que a segurança está a tentar resolver. É crucial ter o modelo correto e, talvez mais importante, a experiência para construir e melhorar esse modelo.

Construir um modelo que possa mapear probabilisticamente “toda a Internet” não é tarefa fácil, e o mesmo se aplica à modelação de atividade maliciosa versus benigna. Além disso, como discutido no primeiro desafio acima, os dados para alimentar este modelo têm de ser maciços (tal como os LLMs que utilizam “toda a Internet”) e, ao mesmo tempo, devidamente categorizados e filtrados”.