IA descobre falhas de segurança em outros softwares

Um dos principais temores relacionados à inteligência artificial é que ela venha a ser usada, um dia, para detectar brechas de segurança em outros softwares: isso permitiria que hackers ou entes estatais realizassem ciberataques em grande escala, com um potencial destrutivo inédito. 

Em tese, a IA conseguiria encontrar falhas com muito mais rapidez do que os humanos – ela é capaz de varrer milhares de linhas de código num piscar de olhos, e inteligente o bastante para identificar pontos fracos. 

Essa hipótese foi concretizada. A divisão de segurança da Microsoft publicou um artigo técnico relatando os resultados de uma experiência na qual o Security Copilot, novo produto da IA da empresa, detectou 20 falhas de segurança em componentes usados em distribuições Linux.

As brechas estão presentes no GRUB2, no U-Boot e no Barebox, que são bootloaders: a função desses programas é carregar o Linux, seja em laptops ou desktops (caso do GRUB2) ou em “sistemas embarcados” – minicomputadores usados em automação industrial ou dispositivos como lâmpadas inteligentes, smart speakers, etc.  

Segundo a Microsoft, as falhas encontradas pela IA permitiriam a instalação de bootkits, um tipo de software espião extremamente difícil de detectar e remover. Eles podem persistir mesmo se o sistema operacional for reinstalado (e o HD ou SSD no qual ele roda for trocado). 

Além de máquinas e dispositivos com Linux, as brechas também afetam computadores com dual boot (instalação paralela do Linux e do Windows). 

Um atenuante é que as falhas não podem ser exploradas à distância, pela internet; requerem que o agressor tenha acesso físico ao computador ou dispositivo que será atacado. Porém, no passado, já houve bootkits capazes de invadir o PC por meio de arquivos infectados. 

A empresa diz ter alertado os mantenedores do GRUB2, do U-Boot e do Barebox (os três são projetos de código aberto), que já liberaram atualizações para consertar as falhas. 

Em mãos erradas, as ferramentas de análise de código por IA podem se tornar armas perigosas – no pior cenário, elas poderiam revelar brechas em grande quantidade, muito mais do que os programadores humanos conseguiriam corrigir.  

Ao mesmo tempo, as empresas de tecnologia começam a oferecer essa tecnologia para uso preventivo. Além da Microsoft e seu Security Copilot, o Google anunciou recentemente o Sec-Gemini, um algoritmo que promete ajudar a identificar e neutralizar ameaças.