Gehirn, Grafikkarte Vergleich?
Hallo
Ich hätte eine etwas merkwürdige Frage.
Wenn ich bei Google, nach der in TFLOPS gemessenen Leistung eines Gehirns suche, bekomme ich folgendes Ergebnis:
100 TFLOPS sind ja wirklich nicht viel, z. B. die Play Station 5 hat 10 TFLOPS, so gesehen sind wir nicht weit davon entfernt, das jeder Gamer die Leistung bei sich zuhause rumstehen hat, die theoretisch ein menschliches Gehirn simulieren kann.
Das kann doch nicht sein oder?
Man weiß ja wie viele Nervenzellen und Synapsen das Nervensystem des Menschen hat.
Nun müsste man das nur auf ein künstliches neuronales Netz übertragen, und ausrechnen wie viel TFLOPS benötigt werden, um es in Real-zeit auszuführen.
Bitte keine Antwort, wenn du nicht weißt, was ein float ist und das künstliche neuronale Netze meistens mit single precision floats berechnet werden.
8 Antworten
Eben, man weiß wieviele Synapsen man in etwa hat, wieviele davon in etwa aktiver Nutzung unterliegen und den (mittleren) Verknüpfungsgrad. Da ein Neuron eben eine Summe aus Multiplikationen errechnet kann man abschätzen, wieviele Rechenoperationen das Gehirn ungefähr durchführt.
Formale Neuronen orientieren sich doch ohnehin schon an neuronalen, da muß man nichts auf ein künstliches Netz abbilden.
----
Aber wenn DU es genau wissen willst, DU hast nen Namen udn die Hochschule, versuch doch die Originalpublikation zu finden, um Dir ein Bild davon zu machen, wie sie auf den Wert gekommen sind.
https://jetpress.org/volume1/moravec.htm
Hier gibt es zwar kein TFLOPS-Estimate, aber es werden entsprechende Vergleiche gezogen. Vermutlich wird sich neueres finden lassen.
Gehirne und Grafikkarten sind so unterschiedlich, dass man sie einfach nicht vergleichen kann, und jede Zahl ist an den Haaren herbeigezogen.
Ein FLOP ist eine Floatingpoint-Operation, ich will mal sehen, welcher Mensch 100 Billionen Kommarechnungen (TeraFLOPS) in einer Sekunde ausführen kann.
Genau so wie die Frage, welche Auflösung das Auge hat oder wie viel FPS es hat.
Menschen sind eben keine Maschinen, und so gerne wir alles mit Zahlen beschreiben, und das bei unseren Maschinen auch gerne tun, ändert das nichts daran, dass Menschen eben keine Maschinen sind und auch nicht von zahlenverliebten Ingenieuren entworfen wurden.
Das Gehirn ist so unglaublich komplex, man kann es nicht mit einer einzelnen, stumpfen Zahl vergleichen.
Auch der Vergleich mit einer KI ist sinnlos, es gibt keine KI, die auch nur annähernd einem menschlichen Gehirn ähnelt, und auch wie viel Leistung benötigt wird, um ein neuronales Netzwerk zu betreiben, hängt nicht nur von den TFLOPs ab.
Und was hat das damit zu tun?
Er kritisiert, dass man die Leistung eines Gehirns nicht in Berechnungen pro Sekunde messen sollte, da unser Gehirn nicht eine bestimmte Anzahl an Berechnungen pro Sekunde ausführt.
Ich finde das man das nicht wirklich vergleichen kann das ist das selbe wie wenn man CPUs mit Gpus vergleicht, die grafiekarte ist auf bestimmte rechen Arten beschränkt und in diesen dem Prozessor überlegen der Prozessor kann aber fast alles rechnen ist dafür aber langsamer, kurz gesagt die grafiekarte kann mehr oder weniger nur Bilder erzeugen während das Gehirn so ziemlich alles hin kriegt
Außerdem ändern sich die Vergleiche von Menschlichen Gehirne und Computern immer mal wieder z.b. dachte man früher das dass Gehirn eine Speicherkapazität von ca 1gb hat, heute geht man aber davon aus das es eine Speicherkapazität 2000gb hat
Künstliche neuronale Netze werden doch mit Grafikkarten ausgeführt.
Also kann man das schon vergleichen.
Wenn du das mit einem gehinr vergleichen willst dann stell dir vor dass das Gehirn millionen fach mehr Befehlssätze und "hardwarebeschleunigungen" hat als es eine Grafikkarte haben könnte.
Noch dazu universell und flexibel schaltbare schaltkreise wie eine Art FPGA dass andauernd umstrukturiert werden würde.
Und noch viele Dinge weiter voraus. Den "Datenspeicher" würden Grafikkarten auch noch lange nicht erreichen. Auch wenn der mensch bewusst im gesunden Kopf keinen Zugriff drauf hat.
Somit kann das gehirn viel mehr Dinge unendlich viel Effizienter und schneller bearbeiten und auf einflüsse reagieren als es eine GPU simmulieren könnte.
Ich glaube, man macht den Fehler, dass man dem menschlichen Bewusstsein eine unerreichbare Komplexität zuspricht, weil man den Gedanken nicht haben möchte, das man vielleicht doch nichts besonderes ist.
Angesichts dessen das heute, handelsübliche Grafikkarten eine unvorstellbare Leistung haben, und die Fortschritte die in KI gemacht werden, ist es nicht weit hergeholt das wir in den nächsten Jahrzehnten eine Überraschung erleben werden, mit der KI Kritiker nicht gerechnet haben.
Das streitet keiner ab. Warum man dem Gehirn so eine komplexität zuspricht ist dass man es noch nicht völlig erklären konnte und erst recht nich nachbilden und simmulieren konnte. Man kann nur einfachste vorgänge erklären und simmulieren bisher.
Das ist sehr unterschiedlich aufgebaut.
Emulation kostet immer zusätzliche leistung. Einfach um die unterschiede in der architektur auszugleichen.
Wenn du ein gehirn simulieren wollen würdest bräuchtest du vermutlich mindestens die 100 fache leistung, wenn wir ein gehirn denn überhaupt komplett verstehen irgendwann.
Aber, so ein neurales netzwerk versucht ja schon ein gehirn zu emulieren. Aber das ist noch nen gutes stück weg von einem tatsächlichen gehirn.
Da muss man nichts Emulieren.
Künstliche neuronale Netze verwenden auch die GPU.
Neuronale Netze auf Computern emulieren ja mit einer GPU ganz viele Neuronen. Also gibt es ja schon eine Emulation.
Soviel ich weiß werden unter anderem die Gewichtungen der Eingänge der Neuronen multipliziert, das ist etwas das eine GPU so gut und schnell machen kann, das es schon fast keine Emulation mehr ist
Ja, eine GPU ist geeignet um Neuronale Netze zu Emulieren, aber solange keine einzelnen Neuronen in der Hardware existieren, ist es eine Emulation :)
Du scheinst was falsch zu verstehen.
Diese Berechnungen werden durchgeführt, um ein Netz zu emulieren. Dein Kopf führt keine Berechnungen aus.
Doch, das ist eine Emulation. Man versucht ein gehirn auf etwas zu betreiben was kein Gehirn ist. Da hast ja keine Gehirne in deinem Computer würde ich hoffe
Ich versuche für mich gerade zu verstehen wie man die "Rechenleistung" des menschlichen Gehirns mit der Leistung einer Grafikkarte vergleichen kann. Auch die Aussage das Gehirn wäre in der Lage 100 Billionen Berechnungen in der Sekunde zu tätigen klingt erstmal total verwirrend.
Aber klar, wenn man überlegt das unser Gehirn sogesehen unseren gesammten Körper steuert, jede Zelle, jeden Musikel etc., dann kommt das wohl schon irgendwie hin.
Lustig das einfach gesagt nur noch so wenig Rechenleistung übrig bleibt das wir nur noch einfachste Berechnungen in Sekunden machen können, sofern wir das nicht trainiert haben.
Wenn man jetzt mal überlegt, wie limitiert dafür der Raum für eine Grafikkarte ist, dann ist das wohl letztlich alles nur Zahlenspielerei, aber lässt sich wohl nie annähernd vergleichen.
Ich bin davon ausgegangen, dass man von künstlichen neuronalen Netzen spricht.
Die man vorzugsweise mit Grafikkarten ausführt.
Nicht irgendwelche berechnungen, sondern gleichkommazahlberechnungen. Flops eben. 100 teraflops wären 100 billionen gleitkommazahlenberechnungen.
Also ich kann keine 100 billionen gleichkommazahlenberechungen mit meinem gehirn durchführen ;). Und ich weiß auch nicht in wiefern gleichkommazahlen berchnungen mit irgendwelchen muskeln helfen.
Ins gesamt ein komischer vergleich.
https://www.cnsnevada.com/what-is-the-memory-capacity-of-a-human-brain/
Es wird geschätzt das jeder der 125 Billionen Synapsen im Gehirn nur 4,7 Bit Daten darstellt.
Würde man es mit 32-bit floats machen wie das bei künstlichen neuronalen Netzen üblich ist, wäre das viel genauer.
Das einzige Komische daran wäre, dass man nicht viel einfachere Datentypen verwendet.
Künstliche neuronale Netzte werden mit Grafikkarten und floats berechnet.
Ich wusste nicht, dass ich das überhaupt anmerken muss, da es für mich als Softwareentwickler ziemlich selbsterklärend ist.