Als camps dels telèfons mòbils, la vigilància de la seguretat, els automòbils i la realitat augmentada / realitat virtual (AR / VR), tot tipus d’aplicacions incrustades que s’estan desenvolupant o planificant impliquen xarxes neuronals i les aplicacions de xarxes neuronals estan explotant. El camp de la innovació de xarxes neuronals és extraordinari, la seva pròpia arquitectura s’actualitza constantment i també hi ha noves xarxes, noves aplicacions i mercats que apareixen sense parar. Amb l’aprofundiment i la complexitat de les aplicacions de xarxes neuronals, els requisits per al rendiment informàtic augmenten dia a dia. En menys de 4 anys, els requisits de càlcul MAC / frame han augmentat aproximadament 16 vegades (vegeu la figura 1).
Figura 1 El creixement dels requisits d’informàtica MAC / frame
Amb el desenvolupament de xarxes neuronals, la demanda d’incorporar processadors (en lloc d’utilitzar CPU i GPU) en dispositius continua augmentant. No obstant això, la potència de processament i la velocitat de funcionament de la xarxa no han estat al dia amb els requisits de desenvolupament de les aplicacions de xarxa neuronal. Aquest conflicte és particularment evident en el camp de les aplicacions de visió. Fins ara, satisfer les necessitats de les aplicacions de xarxes neuronals només pot dependre dels recursos dels centres de dades tradicionals. No obstant això, a mesura que la seguretat i la latència esdevenen consideracions importants, cada vegada és més habitual implementar xarxes neuronals a través de sistemes incrustats per al processament de dades en temps real. Tot i que la majoria de formació en xarxes neuronals es pot fer fora de línia, les aplicacions que utilitzen xarxes neuronals l’han d’incorporar al sistema.
En totes les aplicacions incrustades, AR / VR o realitat mixta s’enfronten a reptes únics. La majoria dels dispositius dels camps anteriors són dispositius portables com ara cascos intel·ligents, auriculars o ulleres intel·ligents. Depenen de la bateria i són una de les consideracions més importants a l’hora de triar una solució de xarxa neuronal per al consum d’energia. Un altre requisit important per a les aplicacions AR / VR és reduir la latència, de manera que les xarxes neuronals han d'implementar la inserció de dispositius. Tots aquests dispositius requereixen algun tipus de reconeixement d’imatges, reconeixement de gestos, segmentació de càmeres estèreo, detecció 3D, seguiment del cap, detecció d’ulls i seguiment d’ulls. Hi ha moltes tecnologies d’imatge diferents, però amb el pas del temps, algunes d’aquestes funcions, com la comprensió de l’entorn semàntic, el reconeixement de gestos o el reconeixement d’imatges, es realitzaran a través de xarxes neuronals. A més de les xarxes neuronals visuals / d'imatge, aquests dispositius també exigeixen a les xarxes neuronals de so / àudio per rebre ordres de veu.
En l’entorn tecnològic que canvia ràpidament, els fabricants d’equips de RA / VR han de seleccionar immediatament les plataformes per als productes que es comercialitzaran el 2019, 2020 i fins i tot més tard. Després de la introducció de la nova xarxa neuronal, a causa dels continus canvis en la seva arquitectura, no podem garantir l'eficàcia de la plataforma de treball efectiva actual en el futur sistema. A més, aquestes aplicacions també requereixen una baixa latència i un baix consum d’energia, cosa que també és particularment important; però, tenint en compte el creixement continu dels requisits de la xarxa neuronal i el progrés continu d’aquesta tendència, encara hem de garantir un cert grau de flexibilitat i previsió.
Actualment, hi ha dues opcions principals per implementar xarxes neuronals: CPU / GPU o l’ús d’acceleradors de maquinari i DSP d’imatges coincidents. Aquestes dues opcions poden resoldre alguns dels reptes als quals s’enfronten els dissenyadors; però tots dos tenen alguns compromisos insatisfactoris en termes de facilitat de desenvolupament, eficiència energètica, latència, futur espai d'actualització o rendiment. L’accelerador de maquinari i el DSP d’imatge coincident són una de les opcions dels dispositius incrustats, però aquesta combinació és ineficient i generarà un consum d’energia innecessari. A més de les dificultats de desenvolupament, el programari també s'ha de particionar entre el DSP i l'accelerador. Només descarregar la capa convolucional augmentarà significativament la càrrega de transmissió de dades i afectarà l’eficiència. A més, el maquinari està fixat en el moment de la sortida de la cinta, de manera que aquests acceleradors no tindran espai per a futures actualitzacions.
Les solucions DSP de xarxes neuronals que compleixin les necessitats d’aplicacions incrustades han de complir els requisits següents: fàcils de desenvolupar, capaç de manejar grans quantitats de dades, tenir espai per a futures actualitzacions, utilitzar l’energia de manera eficient i minimitzar el retard.
Solució de cadència: processador de senyal digital (DSP) Tensilica Vision C5
Com a solució optimitzada per a aplicacions de sensors de visió i fusió, Cadence Tensilica Vision C5 DSP és el primer DSP de la indústria dedicat al processament de xarxes neuronals i adequat per a arquitectures de múltiples processadors. Aquesta solució aconsegueix una velocitat sense precedents i un baix consum d'energia i compleix tots els requisits de la tecnologia de xarxes neuronals de gamma alta.
La solució es basa en gairebé 20 anys d’experiència en processadors múltiples de Xtensa, amb funcions com ara compartir estructures de memòria, permetre interrupcions, cues sincronitzades i depuració de processadors múltiples. Vision C5 DSP pot realitzar l’acceleració del càlcul de totes les capes de xarxa neuronal (capa convolutiva, capa totalment connectada, capa d’agrupació i capa de normalització), no només la funció de capa convolucional. Per tant, s’allibera la capacitat del processador principal de visió DSP per executar aplicacions de millora d’imatges de forma independent; mentre que el Vision C5 DSP executa tasques d'inferència. En eliminar la transmissió de dades redundant de l’accelerador de maquinari, el consum d’energia del Vision C5 DSP és molt inferior al de l’accelerador de xarxa neuronal existent.
Vision C5 DSP té una potència de càlcul de 1 TMAC / seg, que pot satisfer els requisits informàtics cada vegada més grans de les xarxes neuronals; també té càlculs precisos, té una arquitectura de disseny multi-core i admet solucions incrustades multi-TMAC. Vision C5 DSP s’adreça a aplicacions que sovint executen múltiples xarxes neuronals. A causa de les seves característiques programables, la solució té espai per a futures actualitzacions i pot suportar noves capes a mesura que el disseny canvia.
El sistema de processament de visió ha de ser dissenyat de forma integral, aplicable a totes les plataformes i desenvolupar simultàniament maquinari i programari. Per desenvolupar aquesta tecnologia, els dissenyadors han d’utilitzar eines i IP que admetin algoritmes eficients, i la plataforma de maquinari utilitzada també ha de complir els requisits de cost i consum d’energia objectiu de cada aplicació. Des de la perspectiva del sistema, Cadence pot donar suport als dissenyadors de dispositius de visió incrustats per desenvolupar productes transformadors de la manera més ràpida i eficient possible.
El nostre altre producte:
