Gemini-tekoälyä on huijattu suorittamaan haitallisia komentoja uhrin Google-palveluissa
Tekoälyä huijaavia hyökkäyksiä kutsutaan ”promptwareksi” ja niillä on saatu Gemini esimerkiksi suorittamaan tietojenkalastelua ja roskapostin eteenpäin jakamista.