En Neural Processing Unit er en specialiseret processor, der er udviklet til at håndtere AI-beregninger effektivt og energieffektivt. Den er optimeret til at udføre de matematiske operationer, der ligger bag maskinlæring, billedgenkendelse, stemmebehandling og generative modeller.
En traditionel CPU kan også udføre AI-opgaver, men den er designet til generelle beregninger. En GPU kan håndtere parallelle opgaver og bruges ofte til AI i større systemer. En NPU er derimod målrettet AI-workloads og kan udføre disse opgaver langt mere effektivt – både i hastighed og strømforbrug.
Det betyder, at AI-funktioner kan køre kontinuerligt i baggrunden uden at påvirke batteritid eller systemets samlede ydeevne i samme grad som på ældre systemer.
AI-ydeevne i en PC måles i TOPS, som står for “Trillions of Operations Per Second”. Dette tal angiver, hvor mange billioner beregninger NPU’en kan udføre pr. sekund.
TOPS er blevet en central måleenhed for at vurdere, om en computer reelt kan betegnes som en AI-PC. Jo højere TOPS, desto mere avancerede AI-modeller kan systemet håndtere lokalt.
Det er ikke længere kun processorens klokfrekvens eller antal kerner, der definerer en moderne pc – AI-beregningskapacitet er blevet en selvstændig og væsentlig faktor.
En af de vigtigste forskelle mellem en traditionel pc og en AI-PC er evnen til at køre AI-modeller lokalt på maskinen.
Lokal AI-kørsel betyder, at visse typer af kunstig intelligens kan behandles direkte på enheden uden at sende data til eksterne servere. Det reducerer latenstid, forbedrer responstiden og kan øge datasikkerheden, da følsomme oplysninger ikke nødvendigvis forlader enheden.
Denne mulighed er direkte afhængig af, at pc’en har en dedikeret NPU med tilstrækkelig TOPS-kapacitet.
For at skabe klarhed i markedet har Microsoft introduceret betegnelsen Copilot+ PC. Det er en officiel klassificering af Windows-PC’er, der lever op til bestemte hardwarekrav for AI-beregning.
For at opnå denne betegnelse skal en pc som minimum have:
En NPU med mindst 40 TOPS
16 GB RAM
256 GB SSD
Denne standard fastsætter en teknisk bundlinje for, hvornår en pc kan anses for fuldt AI-optimeret til moderne Windows-funktioner.
Selvom NPU’en er den centrale komponent, fungerer en AI-PC som et samlet system. CPU, GPU og NPU arbejder sammen, hvor hver processor håndterer de opgaver, den er bedst egnet til.
CPU’en varetager generelle beregninger og systemdrift. GPU’en håndterer grafik og tunge parallelle opgaver. NPU’en overtager AI-beregninger og aflaster dermed de øvrige processorer. Denne arbejdsdeling gør systemet mere effektivt og fremtidssikret i forhold til AI-baserede applikationer.
En traditionel pc kan anvende AI-baseret software, men den er ikke optimeret til at afvikle AI-workloads lokalt. Den mangler en dedikeret AI-accelerator.
En AI-PC er derimod konstrueret med AI som en integreret del af hardwarearkitekturen. Det betyder:
Dedikeret NPU
Målelig AI-ydeevne i TOPS
Understøttelse af lokal AI-beregning
Hardwarekrav, der matcher moderne AI-baserede operativsystemfunktioner
Det er denne kombination, der gør forskellen.