Kann ein neuronaler Netzwork sich selber verbessern?

4 Antworten

Was heißt selber verbessern? Gemessen an einer Kostenfunktion kann sie sehr wohl sich selbst verbessern (das ist einfach das Training eines neuronalen Netzwerkes). Die Accuracy des Modells dient da z.B. als Messparameter. Verbessern im Sinne von autarke Entwicklung sowie Transfererkennung von neuen Problemen um somit ein immer weiter stärkeres Netzwerk (mehr Neuronen, mehr Layers) zu bilden, ist hingegen eher schwierig. Aber auch hier gibt es Ansätze, die ein Nullsummenspiel zwischen Generator und Diskriminator abbilden (Google mal nach GANs).

covid69 
Fragesteller
 01.12.2021, 15:48

GANs sind was anderes. Ich meinte nicht verbessern im Sinne von training, sondern buchstäblich den eigenen training algorithmus verbessern. Also neue netztopology, neue loss functions, etc.

1
Morgothhh  01.12.2021, 16:11
@covid69

Dann solltest mal in Richtung reinforcement learning schauen. Du brauchst jedenfalls einen zweiten Bewerter (Diskriminator) der als Gegenspieler dient. Auch self-modifying neural networks kannste mal Googlen. Im Prinzip gehts darum Synapsenverbindungen dynamisiert herzustellen (synaptic pruning).

Btw: Du gehst auf die Realschule und gleichzeitig hast du eine Tochter (laut deine Fragen...). Irgendwas stimmt wohl hier nicht.

1
covid69 
Fragesteller
 01.12.2021, 16:45
@Morgothhh

Reinforcement learning ist auch wieder was anderes. Und discriminator ist auch nur bei den fortgeschrittenen algos dabei. Qlearning/Sarsa brauchen keinen critic. Self modifying networks ist schon eher wonach ich suche.

0

das find ich sehr sehr spannend. Und hoffe darauf dass es bald moeglich ist.

Noch nicht. Aber man arbeitet dann. Wenn dann irgendwann KIs noch bessere KIs bauen, wird es spannend.

daCypher  30.11.2021, 14:37

Als Ergänzung dazu: Ab dem Zeitpunkt an dem eine KI sich selbst verbessern kann, spricht man von "technologischer Singularität". Die verbesserte Version kann sich auch wieder verbessern und die Verbesserungen werden immer schneller, bis sie so komplex werden, dass Menschen sie nicht mehr verstehen können und wir im Vergleich zu der KI nur noch so Intelligent sind, wie Amöben im Vergleich zu Menschen.

0
JayCeD  30.11.2021, 14:39
@daCypher

Ich weiß, wollte aber nicht zu weit abschleifen.

0