Scene segmentation using neuromorphic networks

Abstract

Els avanços en neurociència han portat el desenvolupament de models complexes de neurones artificials semblants a les seves contraparts biològiques. Aquests models han millorat la funcionalitat de les xarxes neuronals artificials i han aparegut noves aplicacions. No obstant, la complexitat dels nous models de neurones fa que la seva simulació sigui difícil i requereixi molt de temps i un elevat consum de potència. Aquests no són un problemes importants per aplicacions que no tenen restriccions de consum i en la complexitat del sistema com són la simulació de neurones naturals o la recerca de les diferents habilitats de les xarxes neuronals artificials. Però hi ha altres aplicacions, com les de temps real en sistemes portables, que requereixen sistemes ràpids, petits i de baix consum pels que la simulació de complexes neurones artificials no és una bona solució. Trobar una solució viable a aquest problema és l'objectiu d'aquest treball.<br/>Aquesta tesi descriu i analitza el model hardware d'una xarxa neuronal artificial basada en oscil.ladors acoblats que ha estat adaptada per ajustar-se als requeriments d'una realització VLSI i a la seva aplicació a tasques de segmentació d'imatge. Per reduir l'àrea ocupada i el consum de potència, les neurones modelades com oscil.ladors astables, es realitzen en un ASIC full-custom en lloc de ser simulades en una arquitectura hardware standard. La realització física de l'oscil.lador en lloc de simular-lo, permet al sistema portar a terme les mateixes tasques i reduir el consum de potència comparat amb el requeriments que necessita un ordinador per simular la xarxa.<br/>Primer, es modela un oscil.lador astable en mode corrent com a un integrador i un comparador amb histèresi. Després, s'utilitza aquest esquema per estudiar algebraicament i numèricament la sincronització d'oscil.ladors acoblats amb excitacions amb i sense inhibició i mismatch. Després, es repeteix l'anàlisi amb un model millorat que consta de dos integradors amb escales de temps diferents. Això ens permet simular els efectes secundaris com la capacitat de sortida de l'oscil.lador. A partir d'aquests resultats, s'estudia el comportament de matrius de una i dues dimensions d'oscil.ladors acoblats i després la xarxa és usada per segmentar imatges sintètiques.<br/>Basat en els resultats de l'anàlisi matemàtica, es dissenya una xarxa microelectrònica en un ASIC CMOS amb tecnologia 0.8µm i doble capa de polisilici. El circuit és descrit i simulat extensivament per tal de comprovar la seva funcionalitat com a element de segmentació. Després, els resultats experimentals validen la funcionalitat de la xarxa com a element de segmentació i confirmen la importància del efectes secundaris modelats en la secció de l'anàlisi matemàtica. Finalment, la tesi acaba amb una estimació del nivell de complexitat del procés i una comparació amb d'altres mètodes, exposa les conclusions i explora noves possibilitats en la realització hardware d'algorismes neuromorphics per a la segmentació.<br/>L'anàlisi matemàtica i les simulacions demostren que els oscil.ladors astables poden ser usats com a cel.les bàsiques per a xarxes de segmentació. També demostren que els retards deguts a la capacitat de sortida combinada amb el mismatch dels dispositius han de ser limitats per tal que la xarxa treballi correctament. La realització física del model de neurona basat en un oscil.lador no linial demostra que és possible realitzar físicament un sistema de segmentació més ràpid que la seva simulació en ordinadors molt més potents sense perdre funcionalitat.<br/>Noves línies de recerca són l'estudi en més detall dels mecanismes de sincronització amb acoblaments més febles combinat amb el mismatch dels dispositius, l'ús de comparador en mode corrent més ràpids de baix consum i l'ús d'imatges en nivell de grisos.

Advances in neurosciences have induced the development of complex models of artificial neurons closer to their biological counterparts. These models improved functionality of artificial neural networks and novel applications have appeared. Nevertheless, complexity of new neuron models makes their simulation difficult, and time and power consuming. This is not a major drawback for applications that have no restrictions on power consumption and system complexity as simulation of natural neurons or exploration of different abilities of artificial neural networks. But, there are other applications, as found in real time portable systems, that require fast and small systems and low power requirements for which simulating complex artificial neurons is not a good solution. Finding a feasible solution to this problem is the aim of this work.<br/>This dissertation describes and analyzes a hardware model of an artificial neural network based on coupled oscillators that have been adapted to fit VLSI requirements and its applications to scene segmentation tasks. To reduce area overhead and power consumption, neurons, which are modeled as astable oscillators, are implemented on a full custom ASIC instead of being simulated on a standard hardware architecture. The implementation of a physical oscillator instead of their simulation, allows the system to perform the same tasks and reduce power consumption compared to requirements needed for a computer to simulate the network.<br/>First, a current-mode astable oscillator is modeled as an integrator and a hysteresis comparator. Then, this scheme is used to study algebraically and numerically the synchronization of excitatory coupled oscillators with and without external inhibition and mismatch. After this, the analysis is repeated with an improved model composed of two integrators with different timescales. This allows us to simulate secondary effects as oscillator output capacitance. From these results, the behavior of one-dimensional and two-dimensional arrays of coupled oscillators is studied and then, the network is applied to synthetic image segmentation.<br/>Based on results of the mathematical analysis, a microelectronic network is designed on a double-poly 0.8µm CMOS ASIC. This circuit is described and extensively simulated to check its functionality as a segmentation layer. Then, experimental results validate the network functionality as a segmentation network and confirm the importance of secondary effects modeled in the mathematical analysis section. Finally, this dissertation ends with an estimation of the scheme complexity, compares it to other methods, sets out concluding remarks and explores future trends on implementation of neuromorphic segmentation schemes.<br/>Mathematical analysis and simulations demonstrate that astable oscillators can be used as basic cells of segmentation networks. They also demonstrate that delays due to cell output capacitance combined with device mismatch have to be limited below certain boundaries for the network to work properly. The physical implementation of a neuron model based on a non-linear oscillator demonstrates that it is possible to implement an oscillatory segmentation scheme that runs much faster that its simulated counterpart on powerful computers.<br/>Future lines of research are the deeper study of synchronization mechanisms with weaker coupling strength combined with device mismatch, the use of faster current comparators with low power consumption figures and the use of gray level input images.