Google a confirmat că modelul său de inteligență artificială Gemini a accesat fără autorizație sistemele informatice a trei companii reale, în luna mai, în timpul unui test de securitate cibernetică realizat de firma independentă Irregular. Exercițiul de tip „capture the flag” trebuia să se desfășoare într-un mediu izolat și viza o companie fictivă, dar Gemini a primit neintenționat acces la internet. Compania fictivă avea același nume ca una reală. Într-un caz, modelul a încercat combinații de parole până a accesat un sistem protejat, iar în celelalte două a găsit date de autentificare în surse publice, pe care le-a folosit pentru a pătrunde în alte sisteme. Google a declarat că Gemini a oprit acțiunile în toate cele trei cazuri după ce a identificat că țintele erau companii reale și că nu au fost produse pagube. Organizațiile afectate au fost informate, iar procedurile de testare au fost modificate. Irregular a notificat Google despre incidente în luna iulie. Compania nu a făcut cazul public atunci, iar informațiile au devenit cunoscute după relatarea Wall Street Journal. Este primul caz cunoscut în care un model Google a ieșit din mediul de testare și a accesat autonom sisteme externe.