Google Anuncia o Novo Cloud Security AI Workbench para Segurança Cibernética

A IA Generativa para segurança cibernética está se tornando uma grande tendência no mercado de tecnologia, e o Google faz os primeiros avanços na área com seu novo pacote de segurança cibernética alimentado por sistemas de IA.

Conheça o Cloud Security AI Workbench

Durante o evento RSA Conference 2023, realizado em São Francisco entre os dias 24 a 27 de abril, o Google fez o primeiro pronunciamento sobre seu mais novo lançamento: o Cloud Security AI Workbench.

Basicamente, esse é o novo pacote de segurança cibernética do buscador, alimentado por um modelo de linguagem AI de segurança especializado, chamado Sec-PaLM, um sistema baseado no já conhecido PaLM do Google.

Com a novidade, o Google pretende incorporar mais inteligência na segurança de seus aplicativos, produtos e buscadores. Conforme publicado pelo buscador, o Sec-PaLM é ajustado para casos de uso de segurança e pode detectar vulnerabilidades de software, malware, indicadores de ameaças e perfis comportamentais de agentes de ameaças.

Como o Cloud Security AI Workbench funciona?

O Cloud Security AI Workbench disponibiliza diversas ferramentas baseadas em inteligência artificial para aumentar a segurança dos usuários, como o Threat Intelligence AI da Mandiant, que utiliza o Sec-PaLM para detectar, resumir e lidar com ameaças de segurança (a Mandiant faz parte do guarda-chuva Google desde 2022).

Outro recurso é o VirusTotal, que também pertence ao Google, e que utilizará o Sec-PaLM para auxiliar os assinantes a analisar e entender o comportamento de scripts maliciosos. Além disso, o Sec-PaLM ajudará os clientes do Chronicle, o serviço de segurança cibernética em nuvem do Google, na busca por eventos de segurança e na interação cuidadosa com os resultados.

Ainda, os usuários do Security Command Center AI do Google receberão informações facilmente compreensíveis sobre qualquer exposição a ataques, incluindo ativos afetados, mitigações recomendadas e resumos de riscos para descobertas de segurança, conformidade e privacidade, tudo graças ao Sec-PaLM.

Conforme publicado pelo Google:

“Embora a IA generativa tenha capturado recentemente a imaginação, o Sec-PaLM é baseado em anos de pesquisa fundamental de IA do Google e DeepMind e na profunda experiência de nossas equipes de segurança. Apenas começamos a perceber o poder de aplicar IA generativa à segurança e esperamos continuar a alavancar essa experiência para nossos clientes e impulsionar os avanços em toda a comunidade de segurança.”

Os debates acerca do uso de IA para alimentar ferramentas de segurança cibernética

Embora a IA tenha um enorme potencial para melhorar a segurança cibernética, também apresenta riscos significativos que devem ser considerados. A confiança excessiva em sistemas de IA pode levar a uma falsa sensação de segurança, especialmente se as soluções apresentadas não forem capazes de detectar ameaças sofisticadas ou ataques mal-intencionados.

Um dos tópicos mais sensíveis é a utilização de dados de terceiros em sistemas de IA de segurança cibernética que pode resultar em sérios riscos de privacidade e segurança. Se esses dados forem comprometidos, eles podem expor informações confidenciais de indivíduos ou organizações, incluindo detalhes de autenticação, senhas, informações financeiras e de identidade, entre outros.

Os ataques também são uma preocupação significativa, visto que os hackers podem explorar as vulnerabilidades de sistemas de IA, como a injeção de comandos maliciosos, para manipular os resultados ou desativar os sistemas. Além disso, se sistemas de IA de segurança cibernética estiverem interconectados, um ataque a um sistema pode facilmente se espalhar para outros sistemas interligados, causando um efeito cascata de danos.

Ainda assim, os benefícios potenciais da utilização da IA na segurança cibernética são inegáveis, principalmente porque vimos que essas ferramentas são capazes de analisar grandes volumes de dados em tempo real e identificar padrões e anomalias que podem ser indicadores de ameaças de segurança.

Essa capacidade pode ajudar a detectar e neutralizar ameaças mais rapidamente do que seria possível com uma equipe de segurança humana. Por isso, é crucial que os desenvolvedores e usuários de sistemas de IA de segurança cibernética estejam cientes dos riscos e trabalhem diligentemente para mitigá-los.

Como o Google pode garantir a segurança de seus sistemas de IA?

Por enquanto, os recursos do Cloud Security AI Workbench estão sendo testados aos poucos, sendo o VirusTotal Code Insight o primeiro. Além disso, atualmente eles ainda estão em visualização limitada.

O objetivo do buscador é garantir a eficácia do Sec-PaLM na prática, afinal, ainda não está claro se as sugestões geradas por um modelo de IA são melhores ou mais precisas do que aquelas produzidas por outros meios e o Google pretende realizar vários testes antes de tornar as ferramentas públicas.

Embora os modelos de linguagem de IA tenham avançado muito, eles ainda não são infalíveis e são suscetíveis a ataques, como vimos anteriormente, que pode fazer com que eles se comportem de maneiras não intencionais pelos seus criadores.

Por que o Google está investindo em sistemas de IA com foco em segurança?

O maior buscador do mundo está enfrentando uma longa corrida contra a Microsoft para saber quem será a detentora do melhor sistema de IA.

Em março deste ano, a Microsoft lançou uma nova ferramenta chamada Security Copilot, cujo objetivo é utilizar modelos generativos de inteligência artificial da OpenAI, incluindo o GPT-4, para “resumir” e “dar sentido” à inteligência de ameaças.

Segundo a bigtech, a IA generativa ajudará os profissionais de segurança a se equiparem melhor para enfrentar novas ameaças. No entanto, mesmo os modelos de IA utilizados pela Microsoft e OpenAI estão suscetíveis a riscos significativos, incluindo a exposição de dados de terceiros e vulnerabilidades a ataques cibernéticos.

Por isso, ambas as empresas estão buscando formas de tornar essa tecnologia mais acessível e segura para todos, como parte da corrida que vêm percorrendo desde o lançamento do ChatGPT!

Confira os detalhes da Corrida dos Sistemas de IA

• recentemente, uma nova ferramenta de inteligência artificial tem se tornado popular na internet e promete competir diretamente com o ChatGPT! Conheça o Auto-GPT, sistema de IA autônomo que realiza tarefas sem intervenção humana;
• durante um evento realizado em Paris no dia 8 de fevereiro, o Google anunciou diversos recursos de IA que pretendem revolucionar a pesquisa online. Confira as novidades!;
• o Google anunciou o seu novo chatbot conversacional para a pesquisa, o Bard! No entanto, o concorrente direto do Chat Bing ainda está longe de ser disponibilizado globalmente.