Chatbot ohne Drittanbieter erstellen?
Moin zusammen,
ich würde gerne einen Frage - Antwort Bot erstellen. Mir ist bewusst das ich hier Tools wie Open AI benutzen kann, allerdings ist das nicht meine Mission.
Gibt es Möglichkeiten einen schlauen Bot zu erstellen der auf meinem PC läuft und ich über einer privaten Website diesen Fragen stellen kann ? Es sollen keine Drittanbieter verwendet werden.
Ich hoffe die frage ist verständlich für euch :D Ich bin kein gebildeter Programmierer sondern interessiere mich lediglich für solch Projekte. Gerne auch Videos schicken damit ich mit diesen Lernen könnte :D Ich danke euch vielmals.
Ich glaub du (ihr) versteht mich falsch. Ich möchte einen Chatbot für meine Arbeit bauen. Heißt ich füttere diesen mit Vertragsinformationen damit diese nicht immer herausgesucht werden müssen sonder der Chatbot dann rausspuckt. Meine Frage war nun ob es möglich ist soetwas zu bauen. Der bot brauch nicht mal Ansatz das Wissen von Chatgpt und andere KI sondern einfach meine Daten die ich den gebe. Vielleicht gibt es auch andere Möglichkeiten und ich habe mich mit eigene KI falsch ausgedrückt aber er muss einfach nur meine Daten wissen mehr nicht. Kurze Information warum ich auf Drittanbieter verzichten möchte ist da diese Vertrags Daten nicht an Drittanbieter dürfen. Versteht ihr ?
3 Antworten
Wonach du fragst, beschäftigt aktuell viele Unternehmen.
Und für die Lösung musst du nicht auf externe Software verzichten, sondern nur auf Software, die auf externen Servern aka "in der Cloud" laufen. Was du benötigst, ist eine Lösung, die lokal gehostet wird. Es gibt dafür allerdings 1-Klick-Lösung. Du benötigst eine lokale laufende KI, die Zugriff auf deine Daten hat. Es gibt mehrere KIs, die open source sind und lokal installiert werden können. Im nächsten Schritt muss diese noch die Anfragen verstehen und in einer Datenbank nach deinen Verträgen suchen können. Bestimmte Software-Vorschläge kann ich dir an der Stelle leider nicht geben.
Ein Kumpel von mir hat sowas mal im Informatikstudium gebaut. Der Chatbot war aber natürlich im Vergleich mit heutigen LLMs strohdoof.
Eine Chatbot programmieren geht schon. Es hilft sicher sehr wenn man Informatikstudent an einer der besten technischen Universitäten ist.
Etwas das mit ChatGPT mit halten kann, baust du nicht alleine in deinem Zimmer. Da fehlen dir einfach die Tatenberge zum Training der KInund die nötige Rechenpower. Das Training würde auf ein Home PC wahrscheinlich Jahrhunderte oder Jahrtausende dauern.
Ich glaub du (ihr) versteht mich falsch. Ich möchte einen Chatbot für meine Arbeit bauen. Heißt ich füttere diesen mit Vertragsinformationen damit diese nicht immer herausgesucht werden müssen sonder der Chatbot dann rausspuckt. Meine Frage war nun ob es möglich ist soetwas zu bauen. Der bot brauch nicht mal Ansatz das Wissen von Chatgpt und andere KI sondern einfach meine Daten die ich den gebe. Vielleicht gibt es auch andere Möglichkeiten und ich habe mich mit eigene KI falsch ausgedrückt aber er muss einfach nur meine Daten wissen mehr nicht. Kurze Information warum ich auf Drittanbieter verzichten möchte ist da diese Vertrags Daten nicht an Drittanbieter dürfen. Versteht ihr ?
äh ja. einfach schauen was es an lokalen open source programme dafür gibt. die kannst du dann auf deinem server laufen lassen. deepseek kannst du z.b. lokal installieren.