A Google confirmou que o seu modelo de inteligência artificial Gemini acedeu aos sistemas de três empresas reais durante testes de cibersegurança realizados em maio pela empresa Irregular, especializada em segurança de IA. O ensaio decorria num ambiente fechado, com empresas fictícias, mas uma falha permitiu que o modelo tivesse acesso à internet. A partir daí, o Gemini conseguiu ultrapassar sistemas de empresas reais, num dos casos através da tentativa de adivinhar uma palavra-passe e, nos outros dois, utilizando credenciais encontradas em repositórios públicos.

Segundo a Google, o Gemini interrompeu a ação nas três situações assim que percebeu que estava perante empresas reais e não perante os alvos simulados do teste. A empresa diz que não foram causados danos e que informou as três organizações afetadas. A Irregular comunicou os incidentes à Google no final de julho, mas a tecnológica não os divulgou inicialmente, considerando que as suas medidas de segurança tinham funcionado. O caso surge depois de incidentes semelhantes envolvendo modelos de IA da OpenAI, Anthropic e Meta.

A Apple fez um acordo com a Google para utilizar a IA Gemini no seus aplicativos em vez de prosseguir o desenvolvimento da sua própria IA.