Virtuelle Python Maschine?
Hallo
Ich habe ein Python Skript gemacht, dass Webscraping betreibt um für eine KI Daten zu sammeln. Um aber einen ausreichend grossen Datensatz zu bekommen muss das Skript schon etwa eine Woche Laufen. Dafür bräuchte ich eine virtuelle Maschine. Meine Frage ist jetzt ob es auch eine Website oder so gibt, wo man einfach ein Python Skript ausführen kann ohne eine Virtuelle Maschiene zu haben? Ich brauche ja praktisch keine Leistung mit meinem mikrigen Prozess.
Danke ^^
3 Antworten
Mach es mit dem multiprocessing Modul und 10000 parallelen Requests!
Das schafft jeder Rechner und jede popelige DSL-Leitung.
Dann dauert es statt einer Woche nur noch ziemlich genau eine einzige Minute!
Mach ich auch immer so!
Viel Spaß! :)
PS: Nicht das multithreading Modul nutzen, wegen dem GIL! Das macht dir sonst die ganze Performance zunichte. Ab 1000 parallelen Verbindungen muss es das multiprocessing Modul sein!
Zum synchronisieren und füttern der herunter zu ladendenden URLs reicht eine queue völlig aus.
Wenn du allerdings nur von einem einzigen Server runterlädst, verzichte lieber auf Parallelität. Das wird sonst evtl. als Angriff missverstanden.
Das problem ist, dass ich Aktien Kurse brauche. Die muss ich halt zwingend in einem bestimmten Zeit abstand beziehen
Bei einigen Cloudanbietern gibt's Free Tiers, etwa AWS:
Das kostenlose Kontingent von AWS umfasst 750 Stunden Linux und Windows t2.micro-Instances, ( t3.micro für die Regionen, in denen t2.micro nicht verfügbar ist) jeden Monat für ein Jahr. Um innerhalb des kostenlosen Nutzungskontingents zu bleiben, verwenden Sie nur EC2-Micro-Instances.
https://aws.amazon.com/de/ec2/pricing/
Oder auch bei Google: https://cloud.google.com/free/docs/gcp-free-tier?hl=de
Hol dir nen raspberry Pi und lass den laufen.
Ich kenne leider keine solchen Webdienst.