Hur och varför microcontrollers kan tillgängliggöra artificiell intelligens vid molnkanten

Under de senaste åren har artificiell intelligens vid molnkanten ökat i popularitet. Den tillhörande globala marknaden förväntas öka med en genomsnittlig årlig tillväxt på 27,8 % fram till 2035, vilket ökar nettovärdet till 356,84 miljarder dollar.

Flera olika faktorer driver på denna efterfrågan. Bearbetning av data vid molnkanten löser de säkerhetsproblem som företag kan ha vid dirigering av känslig eller proprietär information till molnet. Bearbetning vid molnkanten minskar även latensen vilket kan vara viktigt för tillämpningar i realtid där snabba beslut måste fattas. Enheter för IIoT har informationsdrivna funktioner vilket i sin tur ökar användningsfallen för artificiell intelligens vid molnkanten. Implementeringar som utvecklas snabbt, från bärbara medicintekniska produkter till bärbara enheter och IIoT, ökar marknaden för artificiell intelligens vid molnkanten.

I takt med att tekniken blir alltmer populär ökar även efterfrågan på komponenter för inbyggda system som kan hantera behoven vid bearbetning av data.

Val vid informationsbearbetning: microcontrollers eller mikroprocessorer

Majoriteten av IoT-enheter som används idag i industriell och inbyggd utrustning är enheter med låg strömförbrukning och med mycket litet minne. Processorkraften de har kommer från små inbyggda microcontrollers (MCU:er). Dessa microcontrollers har arkitekturer med låg strömförbrukning som gör de inbyggda systemen mycket mer kostnadseffektiva jämfört med mikroprocessorer.

Fram till lanseringen av artificiell intelligens vid molnkanten har microcontrollers varit utmärkta för IoT-enheters bearbetningskrav. Men traditionella microcontrollers kan vanligtvis inte leverera den beräkningskraft som behövs för mer komplexa algoritmer för maskininlärning, som är kännetecknet för tillämpningar med artificiell intelligens vid molnkanten. Sådana algoritmer körs vanligtvis på grafikprocessorer (GPU) och mikroprocessorer som har mer bearbetningskraft. Användningen av komponenterna har dock sina egna nackdelar, inklusive den förbrukade mängden ström. Mikro- eller grafikprocessorer är inte de bästa lösningarna om man ser till strömförbrukning. Informationsbearbetning som drivs av mikroprocessorer är kanske inte den bästa lösningen för alla tillämpningar med artificiell intelligens vid molnkanten och leverantörer väljer att förlita sig på microcontrollers istället.

Fristående microcontrollers är billigare än grafik- och mikroprocessorer. För att dimensionera artificiell intelligens vid molnkanten finns det ett växande behov av att utnyttja fördelarna hos microcontrollers, som t ex låg kostnad och låg strömförbrukning, samtidigt som beräkningskraften ökas.

Under årens lopp har ett antal faktorer samverkat för att öka antalet funktioner i microcontrollers vid molnkanten.

Faktorer som underlättar användningen av microcontrollers vid molnkanten

Medan det generella antagandet har varit att den traditionella microcontrollern har för låg kapacitet för informationsbearbetning relaterad till artificiell intelligens, stimulerar förändringar i både konstruktionen av microcontrollern och i det mer omfattande ekosystemet för tekniken att de används i användningsfall med artificiell intelligens.

Faktorer som avses är:

• Integrering av AI-acceleratorer i microcontrollern: När en microcontroller arbetar med att uppfylla kraven för bearbetning vid molnkanten kan en integrering med en AI-/ML-accelerator, som t ex neurala bearbetningsenheter (NPU:er) eller digitala signalprocessorer (DSP:er), förbättra resultatet.

  Exempelvis är processorer i serien STM32N6 (figur 1) från STMicroelectronics baserade på Cortex-M55 från Arm som körs på 800 MHz. Teknologin Arm Helium för vektorbearbetning möjliggör DSP-bearbetningskapacitet i en vanlig processor. STM32N6 är den första microcontrollern i serien STM32 som innehåller ST Neural-ART Accelerator, en egenutvecklad NPU konstruerad för kraftfulla tillämpningar med artificiell intelligens.

Figur 1: STM32N6 är den första microcontrollern i serien STM32 som innehåller acceleratorn ST Neural-ART, en egenutvecklad NPU (neural processing unit) som är konstruerad för artificiell intelligens med låg strömförbrukning vid molnkanten. (Bildkälla: STMicroelectronics)

• Optimerade AI-modeller vid molnkanten: Kraftfulla algoritmer för artificiell intelligens och maskininlärning går inte att överföra till microcontrollers på ett enkelt sätt. De måste optimeras för de begränsade bearbetningsresurserna. Små arkitekturer för artificiell intelligens, som t ex TinyML och MobileNet, gör just detta tillsammans med optimeringstekniker, vilket gör att även microcontrollers vid molnkanten kan exekvera algoritmer för artificiell intelligens. STMicroelectronics lanserade STM32Cube.AI, en lösning för mjukvara som omvandlar ett neuralt nätverk till optimerad C-kod för microcontrollers i serien STM32. Att använda lösningen i kombination med STM32N6 bidrar till att garantera den prestanda som behövs för tillämpningar med artificiell intelligens vid molnkanten trots begränsningar i bearbetning och minne.

• Utvecklingen av ekosystem för artificiell intelligens: Det är inte tillräckligt att ha endast en hårdvarukomponent som kan bearbeta AI-relaterad information vid molnkanten. Exekvering av algoritmer för artificiell intelligens vid molnkanten kräver utvecklarvänliga ekosystem som gör det lättare att driftsätta artificiell intelligens. Ändamålsenliga verktyg som t ex TensorFlow Lite for Microcontrollers medverkar till att leverera sådana lösningar. Sammanslutningar med öppen källkod, som t ex Hugging Face och andra plattformar, har förprogrammerade modeller och kodbibliotek som utvecklare kan testa och specialanpassa för egna specifika användningsfall. Ekosystemen för artificiell intelligens sänker nivån för användning och tillgängliggörande av tekniken även för resurssvaga företag som kanske inte kan utveckla egna modeller av artificiell intelligens från grunden.

  STMicroelectronics har ett särskilt skräddarsytt ekosystem för hård- och mjukvara, ST Edge AI Suite, för optimerade lösningar med artificiell intelligens vid molnkanten. Uppsättningen konsoliderar många av de artificiella biblioteken från ST och verktyg för att göra det lättare för utvecklare att hitta modeller, datakällor, verktyg och kompilatorer som kan generera kod för microcontrollern.

  Förtränade modeller i en modellsamling skapar utgångspunkter för utvecklare. Modellerna använder formatet Open Neural Network Exchange (ONNX), en öppen standard för att representera maskininlärningsmodeller inom områden som t ex datorseende (CV), naturlig språkbehandling (NLP), generativ artificiell intelligens (GenAI) samt maskininlärning av diagram.

• Koder för standardisering och interoperabilitet: Även om ekosystem för artificiell intelligens har hjälpt företag att testa avancerade användningsfall med artificiell intelligens vid molnkanten, har öppna och standardiserade modellformat underlättat sömlös integration mellan olika hårdvarusystem. Kompatibiliteten mellan programvaruverktyg och microcontrollers har gjort det lättare att minska hindren för avancerade implementeringar med artificiell intelligens vid molnkanten.
• Iakttagande av säkerheten vid molnkanten: Även om microcontrollers eliminerar eller åtminstone minskar behovet av informationsbearbetning i molnet, tillhandahåller hårdvarukomponenterna ytterligare säkerhetslager. De inkluderar vanligtvis funktioner som t ex kryptering av hårdvara och säker start som skyddar både information och AI-modeller från skadliga aktörer.

Anmärkningsvärda egenskaper för hårdvaran STM32N6

Serien STM32N6 innehåller en microcontroller med hög prestanda och en NPU, ett modulpaket för kamera och en utvärderingssats. Serien använder en typisk arkitektur för ARM Cortex-M och har flera viktiga egenskaper som gör enheterna lämpliga för artificiell intelligens vid molnkanten. De omfattar:

• Neural ART Accelerator, som kan köra neurala nätverksmodeller. Den är optimerad för snabba AI-algoritmer, arbetar med 1 GHz och ger 600 GOPS med en genomsnittlig energieffektivitet på 3 TOPS/W.
• Stöd för "Helium" MPVE (M-profile Vector Extension), en uppsättning instruktioner för ARM som möjliggör kraftfulla neurala nätverk och DSP-funktionalitet. Instruktionerna är utformade för att exempelvis fungera med 16- och 32-bitars flyttal, vilket gör att dom kan hantera tal med låg precision effektivt. De är viktiga för att bearbeta maskininlärningsmodeller.
• ST Edge AI Suite, ett arkiv med gratis programverktyg, användningsfall och dokumentation som hjälper utvecklare på alla erfarenhetsnivåer att skapa artificiell intelligens för den intelligenta molnkanten. Uppsättningen innehåller även verktyg som t ex ST Edge AI Developer Cloud, som har dedikerade neurala nätverk i modellsamlingen STM32, en kretskortsmiljö för verklig testning och mer.
• Nästan 300 konfigurerbara enheter med flertalet ackumuleringar och två minnesbussar för AXI med 64-bitar för en genomströmning på 600 GOPS.
• Inbyggd dedikerad bildsignalprocessor (ISP), som kan samverka direkt med flera kameror som har 5 megapixel. För att bygga system som innehåller kameror måste utvecklare ställa in bildsignalprocessorn för en särskild CMOS-kamerasensor och dess objektiv. Justeringarna kräver vanligtvis specialkompetens eller hjälp från tredje part. För detta ändamål har ST ett särskilt program som heter iQTune som utvecklare kan använda sig av. Programmet, som körs på en dator med operativsystemet Linux, kommunicerar med inbyggd kod i serien STM32 och analyserar färgnoggrannhet, bildkvalitet och statistik samt konfigurerar bildsignalprocessorns register på lämpligt sätt.
• Stöd för MIPI CSI-2, det mest populära kameragränssnittet för mobila tillämpningar, utan att behöva en extern bildsignalprocessor som är kompatibel med en specifik kameras seriella gränssnitt.
• Många extra funktioner på en enda enhet innebär att utvecklare nu kan köra ett neuralt nätverk i samband med ett grafiskt användargränssnitt utan att behöva använda flera microcontrollers.
• Robust säkerhet, inklusive certifieringarna Target SESIP Level 3 och PSA Level 3.

Sammanfattning

Tillämpningar för maskininlärning som körs vid molnkanten brukade behöva kraftiga mikroprocessorer i inbyggda system för att kunna exekvera komplexa algoritmer. Tack vare kraftfulla microcontrollers som exempelvis processorer i serien STM33N6 från STMicroelectronics kan företag nu tillgängliggöra artificiell intelligens vid molnkanten. STMicroelectronics har ett helt ekosystem för distribution av artificiell intelligens, inklusive mjuk- och hårdvarukomponenter, för slutsatser vid molnkanten.