Redes Neurais Implementadas Em Hardware Arquiteturas E Aplicações

Redes Neurais Implementadas Em Hardware Arquiteturas E Aplicações

(Parte 1 de 4)

Redes neurais implementadas em har dware: ar quiteturas e aplicações

Leonardo Alv es de Paula e Silv a CMP135 - Arquitetur as Especiais

Prof . Philippe O. A. Na vaux 07/01/2002

Redes neur ais implementadas em hardw are: arquitetur as e aplicac ˜ oes – p.1/35

Intr odução

Introdução

Especificações e Medidas de desempenho

Classificação

Estudos de caso Aplicações

Conclusões Bib liog rafia

Redes neur ais implementadas em hardw are: arquitetur as e aplicac ˜ oes – p.2/35

Intr odução

“Mesmo o mais rápido processador não pode pro ver resposta e aprendizado em tempo-real par aredes com um número raz oáv el de neurônios e sinapses . ” Lindse y em [2].

von Neuman ger almente utilizado par a neurosim ulações , mas algumas aplicações como exper imentos em física de alta energia necessitam implementações em hardw are

Redes neur ais implementadas em hardw are: arquitetur as e aplicac ˜ oes – p.3/35

Especificações

Especificações da rede neur al:

Arquitetur a da Rede Neur al (Feedf o ward multi-la yer, radial basis functions (RBF), etc.)

Número de entr adas e saídas Número de neurônios Número de sinapses por neurônio

Número de camadas

Redes neur ais implementadas em hardw are: arquitetur as e aplicac ˜ oes – p.4/35

Especificações

Especificações do hardw are:

Tecnologia utilizada (analógica, digital, híbr ida ou ótica)

Precisão (em número de bits) das entr adas e saídas dos pesos dos acum uladores

Redes neur ais implementadas em hardw are: arquitetur as e aplicac ˜ oes – p.5/35

Medidas de Desempenho

Medidas de desempenho:

Connection-P er-Second (CPS): define ataxa de oper ações de multiplicação e acum ulação de valores dur ante o processamento; mede o quão rápido um rede realiza afase de recall , i.e . mapeamento do entr ada par a saída;

Connection-Update-P er-Second (CUPS): indica ataxa de mudança dos pesos dur ante o processo de aprendizagem; mede o quão rápido a rede consegue aprender .

Redes neur ais implementadas em hardw are: arquitetur as e aplicac ˜ oes – p.6/35

Medidas de Desempenho

Não existe um consenso entre os testes de benchmar k par aredes neur ais a não ser otempo de aprendizagem do NETtalk (rede neur al do tipo bac kpropagation que tr aduz um te xto em fonemas) o qual écitado em [2, 3].

Redes neur ais implementadas em hardw are: arquitetur as e aplicac ˜ oes – p.7/35

Classificação Neurohardware

PC−boards Digital Analog Hybrid Optical

General−purpose Co−processors Processor arrays

SPMDSystolic SIMD

Custom designchips technologies

Special−purpose

Figure 1: Taxonomia de abordagens de par alelização par a neurosim ulações segundo Serbedzija [2]

Redes neur ais implementadas em hardw are: arquitetur as e aplicac ˜ oes – p.8/35

Estudos de Casos

Tabela 1: Neurocomputadores encontr ados comercialmente (os resultados de desempenho não for am obtidos utilizando um mesmo benchmar k, de vendo ser tomados como sendo relativ os , como sugere afonte [2]).

Redes neur ais implementadas em hardw are: arquitetur as e aplicac ˜ oes – p.9/35

Estudos de Casos

Produto Arq./tecnologia Neurônios Cone xões CUPS CPS

SYNAPSE systolic - nenhuma 33M 5.12G

CNAPS SIMD 64 128k 1.46G 5.7G RAP SPMD - - 106M 574M

SAIC PC+board vir tual vir tual 2M 11M

Balboa PC-board - - 9M 25M

(Parte 1 de 4)

Comentários