Frage von adulescentulus, 13

Wie verarbeite ich am besten Sequenzen in Neuronalen Netzen?

Hallo,

ich habe mich etwas mit Neuronalen Netzen beschäftigt und auch schon kleine Dinge trainieren können wie XOR oder NOT.

Mein Problem ist das ich gerne Sequenzen auswerten will und eine andere Sequenz zurückgeben will.

Zb. Hallo => Hi

Huhu => Hallo

Huhu => Na du

Wie geht es dir => Gut. Und selber? ...

Ich denke man kann schon sehen in welche Richtung es gehen soll. Momentan realisiere ich es so das ich wörter in in den Ascii Wert zusammenrechne und die Zahlenfolgen Binare übergebe.

Bin ich so auf den richtigen Weg oder ist etwas an meiner Denkweise falsch? Muss ich vllt nur mehr Trainieren ?

Antwort
von Omnivore13, 8

Ähhh also bei sowas reicht ein normales neuronales Netz mit paar Zwischenneuronen nicht aus. XOR ist ja noch einfach zu trainieren, aber Sprachgewandheit? Bitte wage dich an etwas kleineres.

Du könntest es natürlich probieren auf Begrüßungen und Fragen zu trainieren. Aber da solltest du schon paar Zwischenneuronen haben. Für mich wäre das schon etwas zu viel am Anfang

Kommentar von adulescentulus ,

Also mein Netz hat momentan 32 Input , 2 hidden layer mit jeweils 64 und 32 output. Die Größe des Netzes könnte ich ohne Probleme Scalieren oder miteinander Verknüpfen.

Mit interessiert nur wie der Aufbau sein müsste um halt sowas komplexes zu trainieren. Die hardware dafür spielt momentan keine Rolle :)

Kommentar von Omnivore13 ,

Da kann  ich dir leider auch nicht weiter helfen. Das ist aber eine ganz schöne Aufgabe! Und 2 Hiddenlayers und je 32 Ein- und Ausgänge ist schon heftig.

Wir hatten mal mit 2-4-2 gearbeitet und das sogar per Hand gerechnet ^^ Wie man das aber mit den Strings macht müsste ich mir selbst erst eine Strategie überlegen. Weil man müsste ja die Sätze interpretieren können und dafür brauchst du ein Vokubular.

Keine passende Antwort gefunden?

Fragen Sie die Community