Slik fungerer Apples kraftige AI på din iPhone

Apple har lansert sin hittil kraftigste AI-modell for lokal kjøring med iOS 27. AFM 3 Core Advanced har 20 milliarder parametere, men aktiverer bare mellom en milliard og fire milliarder av dem for hver oppgave som brukeren ønsker å utføre. Hele modellen lagres på iPhone med iOS 27 med ny teknikk En demonstrasjon publisert av utvikleren Adrien Grondin viser modellen i bruk på en iPhone 17 Pro. I videoen genererer den svar direkte på mobilen uten at forespørselen må behandles via nettet. En tradisjonell LLM må ha alt tilgjengelig i arbeidsminnet – det ville krevd mye mer RAM enn det som er praktisk (og billig nok) på en mobiltelefon. Apple har derfor utviklet en sparsom arkitektur der modellen lagres i mobilens...

Read the full article at the source.