Image-KI Lokal vs. Online?

Ich habe jetzt zwei unterschiedliche KI's ausprobiert.

Einmal DALLE und einmal SD XL, was man aber downloaden muss.

Wenn man sich z.B. auf DALLE ein Bild generieren lässt, dann wird die eigene Hardware ja nicht dadurch belastet, sondern der Server von OpenAI, richtig?

Wenn ich SD XL benutze, dann wird meine Hardware belastet, da das Programm (die KI) lokal auf meinem Rechner ausgeführt wird, nicht aber auf einem Server.

Was ich aber nicht so ganz verstehe ist, dass das Programm ja trotzdem mit einem Server kommunizieren muss, da die KI ja ohne Daten gar kein Bild generieren kann?!

Kann mir jemand ein wenig diese Infrastruktur grob erklären?

1 Antwort

MonkeyKing

Von gutefrage auf Grund seines Wissens auf einem Fachgebiet ausgezeichneter Nutzer

künstliche Intelligenz, ChatGPT

11.04.2024, 17:56

Wenn du das Bild auf deinem eigenen Rechner erstellst, belastest du nur die CPU deines Rechners, soweit ist es ja klar.

Wenn du einen Internetdienst ist es etwas komplexer. Dein eigener Rechner bildet dann den sogenannten "Client", der mit dem Webserver des Anbieters, in diesem Fall OpenAI kommuniziert. Hier werden aber lediglich Daten hin- und hergeschickt, u.a. schickt der Client deinen Text zum Server von OpenAI und OpenAI sendet das fertiggestellte Bild zurück zum Client, deinem Rechner. Dabei werden weder dein Rechner noch der Webserver von OpenAI besonders belastet.

Die eigentliche Berechnung des Bildes, die sehr CPU intensiv ist findet nicht auf dem Webserver von OpenAI statt sondern auf einem gesonderten Server bzw. Cloud-Anwendung. D.h. der Webserver von OpenAI kommuniziert mit dem Bildgenerator, der Bildgenerator kommuniziert nicht direkt mit deinem Rechner.

Woher ich das weiß:Berufserfahrung – Erfahrung mit Einsatz von KI in der Softwareentwicklung

verreisterNutzer

11.04.2024, 18:05

Wenn ich das Programm lokal starte, dann werde ich auf den Browser weitergeleitet, wo dann das Interface ist. Die Domain ist eine Art ,,IP-Adresse", aber ich kann das auch ohne Internet nutzen. Wie funktioniert das?

MonkeyKing

11.04.2024, 18:10

@verreisterNutzer

das Programm startet einen Webserver auf deinem Computer mit dem der Browser kommunizieren kann. Im Prinzip wäre der auch von anderen Rechnern im Netzwerk oder Internet erreichbar wenn deine Firewall das nicht verhindert.

Die Addresse sieht wahrscheinlich ähnlich wie "http://localhost:3000" aus. Oder auch "http://127.0.0.1".

verreisterNutzer

11.04.2024, 18:25

@MonkeyKing

Wie könnte man theoretisch mit anderen Rechnern die Adresse mit dem Browser erreichen? Was wären Voraussetzungen?

(Sorry, wenn ich so viel frage. Ich studiere Informatik, deshalb interessiert mich das so)

Lamanini

11.04.2024, 22:55

@verreisterNutzer

Das der Port freigegeben ist, du auf dem Netzwerkinterface lauschst, und die anderen eine Route zu dir kennen.

verreisterNutzer

11.04.2024, 23:00

@Lamanini

Ah, okay. Und wie kann man so eine Route rausfinden?

Lamanini

11.04.2024, 23:07

@verreisterNutzer

Rausfinden? Du musst sie wenn dann erstellen.

Mit wem willst du sie teilen, mit jemanden aus dem lokalen Netzwerk oder dem Internet?

verreisterNutzer

11.04.2024, 23:09

@Lamanini

Achso. Also ohne eine zu erstellen, hat keiner Zugriff auf dieses Interface?

Lamanini

11.04.2024, 23:24

@verreisterNutzer

Normalerweise wird das dein Localhost-Interface sein.

verreisterNutzer

11.04.2024, 23:26

@Lamanini

Ja, müsste. Aber wie gesagt, ich bin dann im Browser drin und die Domain ist eine Art IP-Adresse, aber dieses Interface kann ich im Browser auch ohne Internet nutzen.

Lamanini

11.04.2024, 23:57

@verreisterNutzer

127.0.0.1?

verreisterNutzer

12.04.2024, 00:24

@Lamanini

Ich glaube schon.

MonkeyKing

12.04.2024, 09:21

@verreisterNutzer

Du musst 127.0.0.1 bzw. localhost mit deiner eigenen IP Adresse ersetzten. Dei erfährst du z.B. über https://www.ipchicken.com/
Die kann sich allerdings manchmal auch ändern. Was genau hast du vor?

Gibt es eine KI welche automatisch Bilder von Dalle 2 oder defusion generieren lässt und sie so lange neu generiert bis richtig gute Bilder rauskommen?

...zur Frage

Haben wir bald eine Super KI?

Der CEO von OpenAI behauptet, dass der Fortschritt im Bereich der Künstlichen Intelligenz exponentiell ist und er glaubt, dass wir schon in 10-15 Jahren eine agi haben werden, der jeden kognitiven Job der Welt machen könnte.

Ich bin Software Entwickler in einer Bank und habe so eine Angst, dass ich dann arbeitslos sein werde. Meint ihr er übertreibt oder denkt ihr, dass es realistisch ist?

Ich dachte eigentlich, dass ich als Programmierer in die Rente gehe, aber irgendwie sieht es so aus, dass es echt unrealistisch ist, weil KI's jetzt schon sehr gut programmieren.

Was ist eure Einschätzung?

...zur Frage

Wird das schwer (Python)?

Ich hatte bisher mit Python nichts am Hut. Nur mit Javascript.

Da ich ja eh in dem Bereich Programmierung eine Ausbildung machen möchte sollte ich es lernen.

Ich möchte eine KI und Webseite so wie ChatGPT entwickeln, die mir Sexstories erzählt, wenn ich welche verlange und sie soll es so erzählen wie ich es verlange. Also ChatGPT für Sexstories.

Bin Anfänger, wird das extrem schwer?

...zur Frage

Mit programmieren Geld verdienen?

Hey, ich bin 19 Jahre alt und beherrsche Java mit der OOP. Meiner Meinung nach ist KI und Blockchain Zukunft und deshalb hätte ich Lust etwas in diese Richtung zu entwickeln, jedoch bräuchte ich ein paar Vorschläge. Ich habe an eine eigene KI gedacht, wo ich Python anwenden müsste, aber da gibt es viel Konkurrenz von Milliarden Unternehmen.

...zur Frage

Fhem / Spracherkennung / OpenAI?

Ich würde gern von vielen Tablets das Microfon als Stream an meinen FHEM server schicken, das ganze in echtzeit transkripieren und via GPT API in FHEM befehle konvertieren lassen.

GPT soll also natürliche Sprache zusammen mit der Rauminformation (über den jeweiligen Audiostream) interpretieren zu einem FHEM befehl.

System soll so aufgebaut sein:

Lokale KI emfpängt Audiostream und sucht nach Stichwort "Hallo Computer", transkripiert den rest und schickt die Anfrage "Schalte das Licht am Schreibtisch an" an GPT, dieses übersetzt es dann in einen fhem command (zusammen mit der Info das die Frage aus Raum Z stammt welches man über den Audiostream ermittelt).

Kurzum... ne intelegentere Alexa. Hat jemand gute Infos über bestehende Projekte in der Richtung?

...zur Frage

Text auf KI überprüfen?

Hi, kann mir jemand sagen wie ich es prüfen kann ob ein Text selbst geschrieben ist oder von einer ki

...zur Frage

Könnte eine unzensierte KI den perfekten Banküberfall planen?

...zur Frage

Warum Funktioniert mein Wake Word nicht?

Hallo,

ich programmiere gerade einen Sprachassistenten und bin gerade am Wake Word dran. Mein Code sieht so aus:

import openai
import pyttsx3
import re
import pyjokes
import speech_recognition as sr
from pyowm import OWM
import spotipy
from spotipy.oauth2 import SpotifyOAuth
import time
import random
import datetime
import pytz
from geopy.geocoders import Nominatim
from timezonefinder import TimezoneFinder
import sounddevice as sd
import pvporcupine

openai.api_key = 'sk-...'
model_id = "gpt-4"

engine = pyttsx3.init()

WAKE_WORD_MODEL_FILE_PATH = "C:\\Hey-Luna_de_windows_v3_0_0\\Hey-Luna_de_windows_v3_0_0.ppn"


def recognize_speech():
    recognizer = sr.Recognizer()

    while True:
        with sr.Microphone() as source:
            print("Sage etwas...")
            audio = recognizer.listen(source, timeout=15)

        try:
            text = recognizer.recognize_google(audio, language="de-DE")
            print("Text: " + text)
            return text
        except sr.UnknownValueError:
            return "not_understood"
        except sr.RequestError as e:
            print(f"Fehler bei der Anfrage an die Google Web Speech API: {e}")
            return ""


def record_audio(sample_rate, duration):
    print("Aufnahme gestartet...")
    audio = sd.rec(int(sample_rate * duration), samplerate=sample_rate, channels=1, dtype='int16')
    sd.wait()
    print("Aufnahme beendet.")
    return audio.flatten()


def picovoice_listen():
    keyword_file_path = "C:\\Hey-Luna_de_windows_v3_0_0\\Hey-Luna_de_windows_v3_0_0.ppn"
    sensitivities = [0.5]  # Adjust as needed

    try:
        handle = pvporcupine.create(
            keyword_paths=[keyword_file_path],
            sensitivities=sensitivities,
            access_key='...'
        )

        sample_rate = handle.sample_rate

        while True:
            pcm = record_audio(sample_rate=sample_rate, duration=15)
            keyword_index = handle.process(pcm)

            if keyword_index >= 0:
                print("Wake word detected!")
                break

    except pvporcupine.PorcupineError as e:
        print(f"Porcupine error: {e}")

    finally:
        if 'handle' in locals():
            handle.delete()


def openai_request(prompt):
    response = openai.ChatCompletion.create(
        model=model_id,
        messages=prompt
    )

    api_usage = response['usage']
    print('Total Token consumed: {0}'.format(api_usage['total_tokens']))
    prompt.append({'role': response.choices[0].message.role, 'content': response.choices[0].message.content})
    return prompt


def speak(text):
    engine.say(text)
    engine.runAndWait()


def ausführen():
    while True:
        picovoice_listen()

        q = recognize_speech()
        print("Erkannter Text:", q)

        if q == "not_understood":
            speak("Entschuldigung! Das habe ich nicht verstanden.")
            break

        elif not q:
            break

        elif "hallo" in q:
            speak('Hallo! Womit kann ich dir behilflich sein?')
            continue

        else:
            prompt = [{'role': 'user', 'content': q}]
            prompt = openai_request(prompt)
            response = prompt[-1]['content']
            speak(response)
            break


if __name__ == '__main__':
    ausführen()

wenn ich nun aber das Programm ausführe, kommt diese Meldung und ich muss das Wake Word nicht sagen, um meine Frage zu stellen, welche dann von z.B. OpenAI beantwortet wird:

C:\Users\User\PycharmProjects\voiceAssistant\venv\interpreter\Scripts\python.exe C:\Users\User\PycharmProjects\voiceAssistant\main.py

Porcupine error: Initialization failed:

[0] Keyword file (.ppn) and model file (.pv) should belong to the same language. File belongs to `de` while model file (.pv) belongs to `en`.

Sage etwas...

woran liegt das?

Freundliche Grüsse

...zur Frage

Ich habe KI in Python, aber wie kann ich sie offline verfügbar machen?

Ist es möglich GPT-3 zu downloaden oder ein anderes KI-Sprachmodell, und es für meine KI lokal auf den PC zu instalieren?

Ich will die KI offline Nutzen.

...zur Frage

Wie kann man eine KI trainieren?

Ich habe gehört, man kann eine KI, die Bilder erzeugt trainieren.

Z.B. will ich, dass die KI eine bestimmte Frisur bei einer Frau erzeugt, jedoch scheint die KI die Frisur nicht zu kennen. Vielleicht kann ich dann Bilder dieser Frisur einfügen, sodass die KI diese Frisur erkennt und lernt, sodass die KI hinterher die Frisur selber erzeugen kann.

Geht sowas? Wenn ja, wie?

...zur Frage

Gibt es schon so eine KI?

Die KI soll durch Informationen, die man ihr gibt, Quellen angaben geben.

...zur Frage

Wie kann ich eine selbstprogrammierte KI auf einer Webseite anwenden?

Die KI wird mit Python programmiert und in einer HTML-Webseite kann ich nicht direkt Python verwenden.

Was kann ich machen?

...zur Frage

Werden Programmierer noch gesucht?

In Zeiten von AI?
Lohnt sich ein Studium der Informatik noch?

...zur Frage

Wie hast du richtig Programmieren gelernt?

Ich versuche gerade mit JavaScript eine kleine Webseite mit einem Audio Recorder zu programmieren.

Ich habe gestern gelernt, was eine API ist. Ich gehe in ChatGPT rein und geben ein: "Was bedeutet "getUserMedia()" und versuche die Bedeutung zu verstehen und tippe es selber ein, um die Funktion zu verstehen. Das ist derzeit meine Art zu lernen.

...zur Frage

Was möchtest Du wissen?

Deine Frage stellen