Kina-AI brøt seg ut

Den kinesiske AI-startupen Moonshot AI er igjen i søkelyset, men denne gang er det ikke fordi de har klart å lage en åpen modell som tukter Fable: flaggskipmodellen Kimi K3 klarte å komme seg utenfor et lukket cybersikkerhetsmiljø under testing. Dette etter flere skumle OpenAI-hendelser. Kimi K3 fant vei ut av sandkassen Ifølge Reuters skjedde hendelsen i et testoppsett utviklet av det britiske AI Safety Institute. Modellen skal ha klart å omgå sikkerhetsmekanismer i det såkalte sikre testmiljøet, altså sandkassen, og dermed fått tilgang til informasjon den ikke skulle hatt. AI-modeller testes ofte i isolerte miljøer for å finne ut hvor gode de er til å løse sikkerhetsoppgaver uten å kunne hente hjelp eller...

Read the full article at the source.