728 x 90

Czym jest gaz neuronowy?

Czym jest gaz neuronowy?

Wiele jest podejść do tworzenia sieci neuronowych. Jednym z podejść pozwalającym na bieżącą modyfikację ilości neuronów sieci neuronowej jest zaproponowany w 1991 roku algorytm organizacji neuronów, przypominający ruch czasteczek gazu. Nazwany został Gazem Neuronowym (Neural Gas, NG, ). Algorytm cechował swobodny przepływ neuronów, które mogą poruszać się w określonej przestrzeni i z określoną swobodą. Ilość neuronów była dobierana losowo, a kolejne kroki algorytmu polegały na podaniu na wejście wektora cech, sortowania neuronów na podstawie ich odległosci od wektora x w porządku rosnącym, a nastepnie iteracyjna modyfikacje ich wag.

Modyfikacje tego algorytmu, nazwana Rosnącym Gazem Neuronowym (Growing Neural Gas, GNG) zaproponowano w [1]. Algorytm ten pozwalał na konstrukcje sieci neuronowej (zbioru neuronów) z dowolnymi wagami, która później w kolejnych iteracjach algorytmu była poszerzana o kolejne neurony, tak długo, dopóki nie została osiagnieta maksymalna wielkosc sieci, albo inne kryterium zakończenia algorytmu.

Źródło: [1]

Algorytm pozwalał na modyfikownie struktury sieci. Podczas dodawania nowych neuronów, tworzono nowe połączenia pomiedzy odpowiednio dobranymi neuronami, bądź usuwano połaczenia już istniejące. W szczególnych przypadkach możliwe było również usunięcie wybranych neuronów z sieci.

[1]  Fritzke, Bernd. 1993. Growing cell structures – a self-organizing network for unsupervised and supervised learning. Neural networks, 7, 1441–1460.

Źródło obrazu tytułowego: opracowanie własne.

Leave a Comment

Your email address will not be published. Required fields are marked with *

Cancel reply

Inne artykuły