Kina-AI ga råd om biovåpen og attentater

Moonshot AI har startet en intern undersøkelse etter at forskere skal ha fått Kimi til å omgå sikkerhetssperrene og gi farlige svar. Det avslører en forsker ovenfor Fox News. Også BBC har dekket saken. Fikk Kimi til å omgå sikkerhetssperrene Selskapet undersøker det kinesiske AI-selskapet funnene og er i direkte kontakt med forskeren som uttalte seg til kanalen. Sikkerhetsselskapet Mindgard har også publisert sin egen rapport om svakhetene. Forskerne hevder Kimi kunne manipuleres til å gi detaljerte svar om blant annet biologiske og kjemiske våpen, skadevare, terror og attentater. Angrepet er et såkalt «jailbreak»: forskerne forsøker å få modellen til å svare på forespørsler den normalt skal avvise....

Læs hele artiklen hos kilden.