OpenAI bremser egen modell etter skremmende tester

OpenAI har de siste dagene testet den kommende AI-modellen Astra, men nå advarer selskapet at LLM-en er så kraftige at man ikke kan utelukke at modellen har nådd et kritisk nivå innen selskapets sikkerhetsrammeverk. OpenAI engstelige for den nye Astra-modellen Det innebærer i ytterste konsekvens at en AI-modell kan være i stand til å finne og utvikle fungerende angrep mot tidligere ukjente sikkerhetshull i svært godt sikrede systemer – ifølge OpenAIs Preparedness Framework innebærer «Critical» blant annet at en modell kan identifisere og utvikle fungerende zero-day-angrep mot en rekke godt beskyttede systemer i den virkelige verden. OpenAI offentliggjorde vurderingen 7. august etter flere dager med interne...

Les hele artikkelen hos kilden.