Kommende iPhones får kæmpe AI-boost med ny teknologi
AI-løsninger såsom chatbots er avancerede algoritmer, der kræver store mængder af RAM. Sådanne AI-opgaver er oftest bedst løst ved at bruge store datacentre, der laver de datatunge beregninger og overfører resultatet af beregningerne via skyen.
Den mængde RAM, der kræves til at gennemføre mange AI-opgaver effektivt, er meget større, end hvad der er til rådighed i små enheder såsom smartphones.
Det har været et problem for Apple, som indtil videre har brugt AI og maskinlæring i iPhones i ret begrænset omfang. Apple ønsker nemlig – så vidt det muligt – at afvikle AI-løsninger lokalt på enhederne af hensyn til privatlivets fred.
Læs også: Hvad er kunstig intelligens? Sådan ser fremtiden med AI ud
Ny metode giver AI på smartphones et kæmpe boost
Derfor har Apple sat sig for at udvikle en løsning, der gør det muligt at afvikle mere avancerede AI-baserede algoritmer lokalt på den hardware, der er til rådighed i en typisk smartphone.
Mange af Apples konkurrenter tilbyder smartphones med 12 – ja, endda helt op til 24 – GB RAM. Apples telefoner kommer dog kun med mellem 6 og 8 GB RAM. Det sætter sine begrænsninger for, hvilke AI-løsninger der kan afvikles.
I en tidlig udgave af en forskningsartikel udgivet i arXiv 12. december har Apple annonceret, at virksomheden har udviklet en ny metode til at afvikle AI-løsninger lokalt på små smart-enheder såsom smartphones.
Op til 25 gange hurtigere beregninger
Apples nye løsning består i at gøre brug af overførsler mellem flashhukommelsen (det man typisk kalder lagerpladsen) og DRAM (hukommelsen). DRAM er ufattelig hurtig til at overføre data, men er kun til rådighed i begrænset kapacitet.
Derfor kan den store mængde lagerplads – eksempelvis bestående af 128 GB – være nyttig til eksekveringen af krævende beregninger.
Ifølge Apples forskere kan den nye metode køre AI-programmer, der kræver dobbelt så meget RAM, end der i virkeligheden er tilgængelig på enheden. Teknologien er også i stand til at accelerere CPU-beregninger med op til 500 procent. GPU-processer kan accelereres hele 25 gange i forhold til den nuværende proces.
“Vores metode går ud på at konstruere en inferensomkostningsmodel (omkostningerne ved at køre en inferensopgave), der harmonerer med flashhukommelsens opførsel og guider os til at optimere på to kritiske områder: at reducere mængden af data, der overføres fra flash, og læse data i større, mere sammenhængende bidder,” lyder det i forskningsartiklen.
Læs også: Apple løsner grebet om iPhones og iPads i iOS 17
To teknikker accelererer AI-beregninger på mobilen
Forskerne anvender to forskellige teknikker til at opnå de lovende resultater:
- Windowing, som reducerer mængden af data, der udveksles mellem flashhukommelsen og RAM, ved at genbruge resultater fra nylige beregninger
- Row column bundling, som opnår større effektivitet ved at behandle større dele af data ad gangen fra flashhukommelsen
De to teknikker “bidrager tilsammen til en betydelig reduktion i databelastningen og en stigning i effektiviteten af hukommelsesbrug,” siger forskerne og tilføjer:
”Dette gennembrud er især afgørende for at implementere avancerede store sprogmodeller i miljøer med begrænsede ressourcer og derved udvide deres anvendelighed og tilgængelighed.”
Kan komme i iPhone 16 sidst på året
Der er ingen oplysninger om, hvornår teknologien vil finde anvendelse i en kommende iPhone. Man må dog formode, at netop iPhone og iPad vil være den primære anvendelse. Teknologien kan måske også finde vej til Mac og Apple Watch.
Apple arbejder allerede på en stor sprogmodel kaldet Ajax GPT. Den skal være mindst lige så avanceret som ChatGPT baseret på GPT-3.5-sprogmodellen. Apple vil dog formentlig adskille sig fra sine konkurrenter ved at gøre hele eller dele af sprogmodellen tilgængelig lokalt på iPhones.
Det forlyder dog også, at Apple arbejder på flere skybaserede AI-løsninger, som kommer til iPhone sidst på året sammen med iOS 18. De skal fungere i samspil med de lokalt afviklede AI-løsninger. Teknologien kan vise sig i Siri, som kan blive opgraderet gevaldigt med bedre forståelse af prompts.
Læs også: Nyheder om kunstig intelligens