Recentemente, o Google intensificou suas iniciativas de segurança no Brasil, com especial atenção à proteção do modelo Gemini contra ataques. Alex Freire, diretor sênior de engenharia de software da empresa no país, revelou em entrevista que o novo Centro de Engenharia em São Paulo está diretamente envolvido nesse esforço.
Histórico de desenvolvimento de segurança
A origem dessas tecnologias remonta ao período do Orkut, em Belo Horizonte, onde engenheiros notaram a necessidade de detectar e remover conteúdos abusivos. Desde então, a evolução dessa tecnologia se expandiu, envolvendo equipes em diferentes cidades, incluindo São Paulo e escritórios internacionais.
Focos principais da segurança
O Google Safety Engineering Center (GSEC) em São Paulo tem duas áreas de atuação principais. A primeira é a proteção dos usuários, que abrange a detecção de fraudes, golpes e conteúdos nocivos, especialmente relacionados a crianças e adolescentes. A segunda área, mais recente, foca na segurança do Gemini e na proteção contra ataques de sistemas de IA externos.
Estratégias de resposta a ataques
A equipe em São Paulo trabalha para evitar que o Gemini seja exposto a conteúdos abusivos e monitorar tentativas de abuso, que vão desde tentativas de manipulação de prompts até ataques organizados. A resposta a essas ameaças é escalonada: desde educação para infrações leves até o cancelamento de contas em casos de reincidência e desativação imediata em situações de ataques deliberados.
Princípios de segurança e inovação
A abordagem do Google é pautada pelo princípio de zero confiança, que se baseia na transparência em relação ao funcionamento dos sistemas. A empresa disponibiliza o SAFE (Secure AI Framework), um conjunto de diretrizes para o desenvolvimento responsável em IA, e adota padrões abertos de autenticação.
Utilização de IA para fortalecer a segurança
Com a crescente sofisticação dos atacantes, Freire destacou que a inteligência artificial também é utilizada para realizar testes de segurança, conhecidos como red teaming, que buscam identificar vulnerabilidades nos produtos. Além disso, há uma equipe dedicada a corrigir falhas em softwares de código aberto que o Google utiliza, beneficiando tanto o setor público quanto privado no Brasil.