Vad är On-Device AI och hur fungerar det?

Viktiga takeaways

• On-device AI hänvisar till artificiell intelligens som körs lokalt på en enhet utan att ansluta till internet, vilket ger integritet och snabbare bearbetning.
• Med AI på enheten kan smartphones utföra imponerande uppgifter, som att generera bilder snabbt, tillhandahålla personliga AI-assistenter och förbättra spelgrafik och ljudkvalitet.
• Företag som Qualcomm integrerar specialiserad hårdvara i sina enheter för att optimera AI på enheten prestanda, levererar avancerade funktioner som intelligenta assistenter, realtidsöversättning och automatiserad fotoredigering.

Från chatbots till självkörande bilar, AI förvandlar tekniklandskapet. Ett område där AI-antagandet accelererar snabbt är på konsumentenheter som smartphones. Tekniska jättar tävlar om att integrera AI-funktioner på enheten i sin senaste hårdvara och mjukvara.

Men vad exakt är AI på enheten och hur fungerar det?

Vad är AI på enheten och hur det fungerar

Idag drivs de flesta konsument-AI av enorma datauppsättningar lagrade i molnet. Dock, Att ladda upp personlig data till AI-servrar är inte bra för integriteten. Det är där AI på enheten kommer in.

On-device AI hänvisar till artificiell intelligens som körs lokalt på en enhet snarare än i molnet. Detta innebär att AI-bearbetningen sker direkt på din telefon, surfplatta eller andra enheter utan att ansluta till internet.

Så här fungerar det under huven: AI-modeller gillar Stabil Diffusion, DALLE-E, Midjourney, etc., tränas i molnet med hjälp av massor av data och datorkraft. Dessa modeller optimeras sedan för att köras effektivt på målenheterna. De optimerade AI-modellerna är inbäddade i appar och laddas ner till varje användares enhet. Appdatan förblir isolerad i en säker enklav.

När appen behöver utföra en uppgift som att känna igen ett ljud eller identifiera ett objekt på ett foto, kör den AI-modellen lokalt med hjälp av enhetens inbyggda CPU eller GPU. AI-modellen bearbetar indata och genererar en utdataförutsägelse eller resultat utan att skicka någon data externt.

Allt detta sker helt och hållet på din enhet, vilket håller dina interaktioner privata.

Hur On-Device AI kan gynna dig

AI på enheten möjliggör imponerande funktioner på din enhet. Detta inkluderar snabb bildgenerering med modeller som Stable Diffusion, där bilder kan skapas på några sekunder, vilket går blixtrande snabbt. Det här kan vara bra om du snabbt vill skapa bilder och bakgrunder för dina inlägg på sociala medier. Och eftersom det bearbetas lokalt förblir dina bildmeddelanden privata.

En AI-assistent kan också drivas lokalt, vilket ger en personlig upplevelse baserat på dina data och preferenser, som favoritaktiviteter och konditionsnivåer. Den kan förstå naturligt språk för uppgifter som foto- och videoredigering. Du kanske till exempel kan säga "ta bort personen till vänster" för att redigera en bild direkt.

För fotografering kan AI på enheten aktivera funktioner som att utöka bildgränser (liknande Photoshops fyllningsfunktion), med samtidiga främre och bakre kameror för videoeffekter och redigera olika lager oberoende av varandra.

Spelgrafik kan också dra nytta av AI på enheten genom uppskalning av upplösning upp till 8K, accelererande strålspårning för realistisk belysning och effektiv fördubbling av bildhastigheter. När det gäller ljud kan AI på enheten aktivera ljudsynkronisering i realtid så att ditt ljud från videor och spel aldrig går ur synk. Det möjliggör också kristallklara samtal och musik även om du går in i ett annat rum.

Sammantaget överensstämmer AI på enheten med vad många användare vill ha – snabba resultat och integritet – eftersom det håller mer bearbetning lokalt istället för molnet.

AI på enheten ger snabbare och mer privata AI-upplevelser

AI på enheten är ganska snygg. Det låter våra telefoner och andra prylar köra avancerade AI-algoritmer lokalt utan att behöva ansluta till molnet och utan fördröjning.

Företag som Qualcomm packar redan sina senaste chip med specialiserad hårdvara för att köra neurala nätverk effektivt på våra enheter. Till exempel stöder Qualcomms Snapdragon 8 Gen 3 upp till 24GB (på en smartphone!), har integrerat stöd för Stable Diffusion och Llama 2, och använder Qualcomms AI Stack för att leverera några av de bästa AI-prestanda på enheten för närvarande tid.

Så, med varje ny generation av smartphones, förvänta dig att se ännu mer kraftfulla AI-funktioner på enheten för saker som intelligenta assistenter, översättning i realtid, automatisk fotoredigering och blixtsnabb generativ AI-bild generation.