Neuronale Netzwerke mit biologisch plausiblen Erklärungen der Neurogenese

Ich kenne keine NN-Algorithmen, die Ihrer Definition vollständig entsprechen, und ich habe (früher und kürzlich) nach ihnen gesucht. Hier sind einige Papiere, von denen ich denke, dass sie nah dran sind oder in die Richtung gehen, die Sie erforschen.

Verwendung theoretischer Modelle zur Analyse der neuronalen Entwicklung (Review)

Eine Unterrichtssprache zur Selbstkonstruktion im Kontext neuronaler Netze

Entwickelte Neurogenese und Synaptogenese für die Robotersteuerung: das L-Gehirn-Modell

Modellierung neuer Neuronenfunktionen: eine Geschichte der Verwendung von Computational Neuroscience zur Untersuchung der Neurogenese bei Erwachsenen (Rezension)

Die ersten beiden Links sind computergestützte neurowissenschaftliche Arbeiten, die relativ komplexe Modelle der Neurogenese in Bezug auf die Neuroentwicklung (eher als die Neurogenese des Erwachsenen) diskutieren. Einige dieser Modelle (einschließlich des zweiten Artikels) beinhalten nicht einmal Netzwerkaktivitäten, und in ihrer derzeitigen Form ist wahrscheinlich keines von ihnen in der Lage oder geeignet, praktische Probleme zu lösen. Das dritte Papier kommt wahrscheinlich dem am nächsten, wonach Sie suchen (aber ich habe keinen Zugriff), und das vierte ist so, wie der Titel vermuten lässt.

Viele Netzwerkmodelle der Neurogenese konzentrieren sich auf die Neuroentwicklung. Eine ziemlich offensichtliche Schlussfolgerung scheint zu sein, dass der Grund dafür darin besteht, dass die wichtigste biologische Rolle der Neurogenese in der Neuroentwicklung liegt. Ich habe viel darüber nachgedacht, Neurowissenschaften einzusetzen, um NN-Algorithmen abzuleiten, die sowohl biologisch plausibel als auch funktional sind, und habe Neurogenese in diesem Zusammenhang betrachtet. Meine gegenwärtige Schlussfolgerung ist, dass die Neurogenese außerhalb der Neuroevolution derzeit kein idealer Fokus für die NN-Modellierung ist, da ihre Rolle beim Lernen und Rechnen hauptsächlich auf einen Spezialfall (den Hippocampus) beschränkt zu sein scheint, der nicht gut verstanden wird (trotz seiner offensichtlichen Bedeutung).

In Bezug auf die Kaskadenkorrelation vermute ich, dass ein ähnlicher Effekt in einigen biologischen NNs erreicht werden kann, indem nur Synaptogenese und synaptische Plastizität verwendet werden. Wenn Sie sehr viele Neuronen haben und neues Lernen auf eine minimale Anzahl von Synapsen beschränkt ist, die anschließend vor zukünftigen Änderungen geschützt sind, kann der Effekt derselbe sein, als würde neues Lernen immer auf neu hinzugefügte Neuronen beschränkt (wie in CC-NN ). Ein solcher Fall wäre mit diesen vereinbarFunde zum Beispiel. In einem solchen Modell wäre es biologisch nicht plausibel und vielleicht nicht wünschenswert, dass jedes Neuron mit jedem Neuron in der vorhergehenden und folgenden Schicht verbunden wäre, und daher wäre ein System zum Bestimmen des Musters von explorativen Verbindungen erforderlich. Um dies zu tun, könnte man auf Neuroentwicklungsmodelle wie das obige zurückgreifen (um die Ziele der Synaptogenese zu beeinflussen, anfängliche Verbindungen des Netzwerks zu säen oder beides) oder alternativ versuchen, Algorithmen abzuleiten, die beobachtete Konnektivitätsmuster biologisch annähern Netzwerke.

Ich kenne kein bestimmtes Netzwerkmodell für diesen Job (also wird meine Antwort unvollständig sein), aber ich glaube, dass jedes auf Hebbian-Lernen basierende assoziative Gedächtnis leicht strukturiert werden kann, um Neurogenese zu simulieren. Diese unüberwachten Netzwerke sind eigentlich nichtlineare dynamische Systeme, die anhand ihrer Phasenräume verstanden werden können. Der Phasenraum ist die Realisierung der Dynamik des Netzwerks in der Zeit. Es enthält (möglicherweise) mehrere stabile Zustände, die Minima genannt werden.

Stellen Sie sich ein Netzwerk mit n Knoten vor. Wenn Sie den n+1-ten Knoten hinzufügen und ihn über eine bestimmte Anzahl von Verbindungen mit dem Rest des Netzwerks verbinden, sehen Sie (hypothetisch), dass der Phasenraum nicht vollständig umgeformt wird; aber es ändert sich reibungslos. Eine wichtige Sache, die klargestellt werden muss (dank Artem Kaznatcheev), ist, dass die Zahl n einen beträchtlich großen Wert haben sollte. Stellen Sie sich den Extremfall vor, wo n gleich 1 ist; Dann ist die gesamte Struktur weg.

Ich bin nicht so gut in Mathematik, aber im Prinzip lässt sich Neurogenese auf solchen Netzwerken simulieren, die dynamische Systeme implementieren. Man kann Algorithmen entwickeln, die parallel zum Training Knoten und Verbindungen rekrutieren oder entfernen.

Wie man Knoten hinzufügt: Ich glaube, dass die Antwort auf diese spezielle Frage die neurobiologische Plausibilität des Modells nicht beeinflusst. Wir können sogar davon ausgehen, dass die Knoten vorhanden sind, aber nicht verwendet werden (aufgrund vorheriger Unnotwendigkeit), und jetzt brauchen wir sie und rekrutieren sie.

Aber als Schlussbemerkung muss ich sagen, dass ich so ein Metwork noch nie entwickelt habe, daher kann ich meine Erfahrungen hier nicht teilen.