Nordmann fant ormen Microsoft ikke klarer å drepe

Den norske AI-forskeren Håkon Måløy har demonstrert hvordan skjulte instruksjoner i et Word-dokument kan få Microsoft Copilot til å endre innhold, og deretter kopiere angrepet videre til nye dokumenter. Slik kan et Word-dokument manipulere Microsoft Copilot Angrepet inneholder verken skadevare, makroer eller tradisjonell programkode; i stedet utnytter det såkalt «prompt-injeksjon», instruksjoner skjules i dokumentet med blant annet hvit tekst på hvit bakgrunn og svært liten skrift. Ifølge Måløy gjør Copilots behandling av dokumentinnhold at de skjulte instruksjonene likevel kan bli tolket av språkmodellen, selv om de er usynlige for brukeren. Håkon Måløy har demonstrert hvordan skjulte...

Read the full article at the source.