Gemini tok seg inn hos tre selskaper – helt på egen hånd

Googles KI-system Gemini fikk tilgang til internett under en sikkerhetstest – og begynte deretter på egen hånd å ta seg inn hos virkelige selskaper. Hendelsen føyer seg inn i rekken av episoder som skaper uro rundt stadig mer selvstendige KI-agenter. Det skriver Financial Times, som viser til tester gjennomført av KI-sikkerhetsselskapet Irregular i mai. Gemini hadde fått i oppgave å hente informasjon fra simulerte selskaper, og skulle ikke ha tilgang til internett. Likevel kom KI-agentene seg på nett og klarte å finne eller gjette passord til tre virkelige selskaper med samme navn som virksomhetene i testen. Dermed fikk de tilgang til de ekte selskapene. Stoppet av seg selv Da Gemini-agentene oppdaget at...

Läs hela artikeln hos källan.