KI für unseren Kundenservice erstellen?
Hallo,
ich bin sehr neu in dem Thema KI via Python erstellen. Wie in de Frage schon steht würde ich gerne eine KI für unseren Kundenservice erstellen, welchen beim E-Mails beantworten helfen kann. Die KI soll anhand von bisherigen Schriftverkehren E-Mails selber beantworten können. Hierzu soll die KI als Datensatz E-Mails zum lesen bekommen und anhand dieser erstmal Antworten generieren, welche je nachdem ob diese richtig oder falsch/ gut oder schlecht sind belohnt oder bestraft wird. Über Angehens weisen, benötigte Module, eventuell den Aufbau des Skriptes etc. würde ich mich sehr freuen. Generell im Internet konnte ich nicht viel zu diesem spezifischen Thema finden.
1 Antwort
Also, eine komplett eigene KI zu trainieren ist quasi unmöglich, dazu bräuchtest du massen an Trainingsdaten, müsstest dich extrem auskennen und dir ein Rechenzentrum anmieten
Was eine vertretbarere Option wäre, wäre, vortrainierte Modelle zu verwenden, die kostenlos sind und lokal lauffähig, wie Z.B. Mixtral oder Qwen mit 70B Parametern, z.B. auf 4 Bit quantisiert. Die kannst du auf einem PC mit ordentlicher GPU lokal laufen lassen, oder auf einem gemieteten Server, und mit richtiger Konfiguration auch die Rolle für den Kundenservice übernehmen lassen und auch per Python ansteuern
Allerdings müsstest du dich auch hier ausführlich damit beschäftigen, wie man den Systemprompt und den Kontext dem Sprachmodell mitteilt, damit die KI nicht anfängt, irgendeinen Mist bei der Beratung zu erzählen. Auch die deutsche Sprache ist bei solchen Modellen etwas hakelig manchmal
Das könntest du auch über ChatGPT mit API machen, aber wie du sagst, kostet das Geld und oft gibt es Limitationen. Die Frage ist auch, ob es wünschenswert/rechtlich in Ordnung ist, dass eine Firma wie OpenAI Kunden- und Firmendaten von euch bekommt
Habe mich auch nochmal etwas damit beschäftigt. Was du am ehesten suchen dürftest, wäre das Finetuning. Dazu nimmst du ein vortrainiertes Netzwerk und trainerst es nach mit einem eigenen Datensatz von Beispielfragen und -Antworten, damit es weiß, wie es zu antworten hat. Dort könntest du z.B. fiktive Kundenfragen und Support-Antworten bereitstellen. Ist etwas Arbeit, aber könnte sich lohnen.
Hier ein Video, wo jemand so etwas durchführt, sogar mit einem Modell, das auf Deutsch ganz gut zu funktionieren scheint: https://www.youtube.com/watch?v=Q9zv369Ggfk
Das mit den Kunden und Firmendaten ist ebenfalls ein Punkt weshalb auf eine API verzichtet werden soll. Daher ein Programm welches wir Lokal/Intern nutzen können. Ich werde mich auf jeden Fall da weiter reinlesen. Danke schonmal :)