Ontwikkelpakket van Microchip voor neuraal netwerk en slim ingebedde vision oplossingen
Microchip’s VectorBlox SDK en IP geeft software ontwerpers een handzame oplossing voor het programmeren van een getraind neuraal netwerk zonder voorafgaande FPGA expertise.
Met de opkomst van kunstmatige intelligentie (AI), machine learning (ML) en het internet der dingen (IoT), verplaatsen toepassingen zich naar de randen van het netwerk waar de data worden verzameld. Dit vereist energiezuinige oplossingen die meer rekenkracht leveren in steeds kleinere behuizingen met thermische beperkingen. Via het Smart Embedded Vision initiatief komt Microchip Technology Inc. tegemoet aan de groeiende behoefte aan energiezuinige componenten in randtoepassingen door het voor software ontwerpers gemakkelijker te maken om hun algoritmen te implementeren in de PolarFire® in het veld programmeerbare poortschakelingen (FPGA’s). Als een belangrijke aanvulling op het programma met talrijke oplossingen in dit segment, helpt Microchip’s VectorBlox Accelerator Software Development Kit (SDK) ontwerpers om voordeel te doen met Microchip’s PolarFire FPGA’s voor het creëren van energiezuinige, flexibele op overlay gebaseerde neurale netwerktoepassingen zonder kennis te nemen van de exacte werking van een FPGA.
FPGA’s zijn ideaal voor AI toepassingen aan de rand, zoals tussenschakel in een energiezuinige verwerkingsomgeving, omdat ze meer gigabewerkingen per seconde (GOPS) kunnen uitvoeren met minder stroomopname dan een centrale verwerkingseenheid (CPU) of een grafische verwerkingseenheid (GPU), maar ze vergen wel specifieke hardware ontwerpvaardigheden. Met Microchip’s VectorBlox Accelerator SDK kunnen ontwerpers coderen in C/C++ en energiezuinige neurale netwerken programmeren zonder voorafgaande FPGA ontwerpervaring.
Het bijzonder flexibele gereedschapspakket kan modellen uitvoeren in TensorFlow en het open neurale netwerk uitwisselings (ONNX) formaat voor een zo groot mogelijke uitwisselbaarheid. ONNX ondersteunt allerlei raamwerken, zoals Caffe2, MXNet, PyTorch en MATLAB®. In tegenstelling tot alternatieve FPGA oplossingen wordt Microchip’s VectorBlox Accelerator SDK ondersteund op Linux® en Windows® besturingssystemen. Bovendien bevat het een op de bit nauwkeurige simulator waarmee de gebruiker de mogelijkheid heeft om in de software omgeving de nauwkeurigheid van de hardware te valideren. De neurale netwerk IP in het pakket ondersteunt eveneens de mogelijkheid om verschillende netwerkmodellen te laden tijdens de looptijd.
“Om er voor te zorgen dat software ontwerpers kunnen profiteren van de energiebesparing van FPGA’s, moeten we de belemmeringen wegnemen zodat ze niet hoeven te studeren op nieuwe FPGA architecturen en hoe die specifieke hulpmiddelen werken. We geven ze de flexibiliteit voor de overdracht van multi-raamwerk en multi-netwerk oplossingen,” zegt Bruce Weyer, vice president van de FPGA bedrijfseenheid bij Microchip.
“Microchip’s VectorBlox Accelerator SDK en neuraal netwerk IP kern geeft zowel aan software als hardware ontwerpers een methode voor het implementeren van een extreem flexibele overlay convolutionele neurale netwerk architectuur op PolarFire FPGA’s, van waaruit ze gemakkelijker hun op AI voorbereide randsystemen kunnen construeren en implementeren die qua afmetingen, warmteontwikkeling en vermogensopname als de beste in hun klasse gelden.”
Voor informatieverwerking aan de rand hebben PolarFire FPGA’s een tot 50 procent lagere totale vermogensopname ten opzichte van concurrerende componenten, terwijl ze ook over rekenkundige blokken met een 25 procent hogere capaciteit beschikken die tot 1,5 tera bewerkingen per seconde (TOPS) uitvoeren. Door FPGA’s te gebruiken hebben ontwerpers ook een betere grip op klantspecifieke aanpassingen en differentiëring door de opwaardeerbaarheid van de componenten en de mogelijkheid om functies te integreren op een enkele chip. De PolarFire FPGA neuraal netwerk IP is beschikbaar in allerlei versies, afhankelijk van de prestaties, voeding en afmetingen van de behuizing voor de toepassing, zodat klanten hun oplossingen kunnen implementeren in behuizingen die slechts 11×11 mm in beslag nemen.
Microchip’s Smart Embedded Vision initiatief werd afgelopen juli geïntroduceerd om ontwerpers van hardware en software te voorzien van hulpmiddelen, intellectueel eigendom (IP) kernen, en printplaten om te kunnen voldoen aan de beperkte warmte-afvoer en kleine vormfactor eisen van toepassingen aan de rand. Dankzij het lage opgenomen vermogen van PolarFire FPGA’s in vergelijking tot andere oplossingen hoeven klanten geen ventilatoren in hun kasten op te nemen. PolarFire FPGA’s beschikken bovendien over meer functionele integratie voor een klantspecifiek ontwerp. Toegepast in bijvoorbeeld een slimme camera kunnen PolarFire FPGA’s de complete beeldsignaalpijplijn integreren die bestaat uit de sensor interface, DDR controller, beeldsignaalverwerkings (ISP) IP en netwerk interfaces, met het integreren van machine learning als basis.
FPGA’s zijn ideaal voor AI toepassingen aan de rand, zoals tussenschakel in een energiezuinige verwerkingsomgeving, omdat ze meer gigabewerkingen per seconde (GOPS) kunnen uitvoeren met minder stroomopname dan een centrale verwerkingseenheid (CPU) of een grafische verwerkingseenheid (GPU), maar ze vergen wel specifieke hardware ontwerpvaardigheden. Met Microchip’s VectorBlox Accelerator SDK kunnen ontwerpers coderen in C/C++ en energiezuinige neurale netwerken programmeren zonder voorafgaande FPGA ontwerpervaring.
Het bijzonder flexibele gereedschapspakket kan modellen uitvoeren in TensorFlow en het open neurale netwerk uitwisselings (ONNX) formaat voor een zo groot mogelijke uitwisselbaarheid. ONNX ondersteunt allerlei raamwerken, zoals Caffe2, MXNet, PyTorch en MATLAB®. In tegenstelling tot alternatieve FPGA oplossingen wordt Microchip’s VectorBlox Accelerator SDK ondersteund op Linux® en Windows® besturingssystemen. Bovendien bevat het een op de bit nauwkeurige simulator waarmee de gebruiker de mogelijkheid heeft om in de software omgeving de nauwkeurigheid van de hardware te valideren. De neurale netwerk IP in het pakket ondersteunt eveneens de mogelijkheid om verschillende netwerkmodellen te laden tijdens de looptijd.
“Om er voor te zorgen dat software ontwerpers kunnen profiteren van de energiebesparing van FPGA’s, moeten we de belemmeringen wegnemen zodat ze niet hoeven te studeren op nieuwe FPGA architecturen en hoe die specifieke hulpmiddelen werken. We geven ze de flexibiliteit voor de overdracht van multi-raamwerk en multi-netwerk oplossingen,” zegt Bruce Weyer, vice president van de FPGA bedrijfseenheid bij Microchip.
“Microchip’s VectorBlox Accelerator SDK en neuraal netwerk IP kern geeft zowel aan software als hardware ontwerpers een methode voor het implementeren van een extreem flexibele overlay convolutionele neurale netwerk architectuur op PolarFire FPGA’s, van waaruit ze gemakkelijker hun op AI voorbereide randsystemen kunnen construeren en implementeren die qua afmetingen, warmteontwikkeling en vermogensopname als de beste in hun klasse gelden.”
Voor informatieverwerking aan de rand hebben PolarFire FPGA’s een tot 50 procent lagere totale vermogensopname ten opzichte van concurrerende componenten, terwijl ze ook over rekenkundige blokken met een 25 procent hogere capaciteit beschikken die tot 1,5 tera bewerkingen per seconde (TOPS) uitvoeren. Door FPGA’s te gebruiken hebben ontwerpers ook een betere grip op klantspecifieke aanpassingen en differentiëring door de opwaardeerbaarheid van de componenten en de mogelijkheid om functies te integreren op een enkele chip. De PolarFire FPGA neuraal netwerk IP is beschikbaar in allerlei versies, afhankelijk van de prestaties, voeding en afmetingen van de behuizing voor de toepassing, zodat klanten hun oplossingen kunnen implementeren in behuizingen die slechts 11×11 mm in beslag nemen.
Microchip’s Smart Embedded Vision initiatief werd afgelopen juli geïntroduceerd om ontwerpers van hardware en software te voorzien van hulpmiddelen, intellectueel eigendom (IP) kernen, en printplaten om te kunnen voldoen aan de beperkte warmte-afvoer en kleine vormfactor eisen van toepassingen aan de rand. Dankzij het lage opgenomen vermogen van PolarFire FPGA’s in vergelijking tot andere oplossingen hoeven klanten geen ventilatoren in hun kasten op te nemen. PolarFire FPGA’s beschikken bovendien over meer functionele integratie voor een klantspecifiek ontwerp. Toegepast in bijvoorbeeld een slimme camera kunnen PolarFire FPGA’s de complete beeldsignaalpijplijn integreren die bestaat uit de sensor interface, DDR controller, beeldsignaalverwerkings (ISP) IP en netwerk interfaces, met het integreren van machine learning als basis.
