Benutzt ihr oft GPT?

Ich nicht

Answer 1

[Krabat693]

Chat GPT nutze ich fast nie. Dafür habe ich zu viele Datenschutzbedenken.

Aber ich hab meinen eigenen Ollama Server mit einem Handvoll KI Modellen:

• llava:13b
• codegemma:12b
• Phi4

Die Rechenleistung meines heimischen Server ist natürlich auf die Grafikkarten beschränkt die ich mir leisten kann, deshalb ist es für meine Zwecke auch nötig verschiedene, spezialisierte Modelle zu nutzen.

codegemma ist dafür da mir mit Automatisierungsskripten und Makros zu helfen, das Modell kann Code interpretieren und in jeder gängigen Programmiersprache selber schreiben.

llava kann Bilder interpretieren und liest Texte besser als konventionelle OCR Reader.

Phi4 ist am besten mit natürlichen Sprachen, Phi4 ist bei mir entsprechend dafür zuständig Texte zusammenzufassen, umzuformulieren ... Phi4 nutze ich meist über ein Thunderbird und Firefox Plugin. Mit dem Thunderbird Plugin fasst Phi4 mir Mails auch inhaltlich zusammen und versieht sie mit Tags für erleichterte Suche.

Comments

[Narrativium]

Aber ich hab meinen eigenen Ollama Server mit einem Handvoll KI Modellen

Wie du schon schreibst ist das leider auf die Leistung deiner Hardware beschränkt. Da kannst du wenigstens den Datenfluss kontrollieren.

[Krabat693]

@Narrativium

Mit den genannten Modellen und mit einer RTX A4000 (16GB VRam) antwortet mir mein Server wirklich sehr schnell ... Die Präzision der Antworten leider nur leider.

An der Stelle finde ich aber die neue Ryzen AI MAX Plattform interessant ... Im speziellen im Framework Desktop mit dem AI Max 395+ mit 128GB RAM ... Von dem lassen sich 96GB der GPU zuweisen wodurch die kleine Kiste als Ollama Server auch mit größeren Modellen für den Privatanwender interessant sein dürfte.

Answer 2

[Klavininus]

Ja, ziemlich oft. Ich nutze es für alles Mögliche – Texte schreiben, Ideen sammeln oder einfach zum Quatschen. Echt praktisch, ersetzt manchmal sogar die Suchmaschine.

Answer 3

[isyyy760]

Ich wollte es einmal benutzen,hat aber nicht geklappt,also habe ich es noch nie nenutzt🙃

Woher ich das weiß: eigene Erfahrung – 🌼Ich liebe es Fragen zu beantworten und helfe gerne🌼

Answer 4

[geheim007b]

täglich und immer mehr. Diverse GPT modele, aber auch Diffusion modele und ich in offen für alles und probiere Schritt zu halten.

Answer 5

[Bombrider]

nur wenn es besser formulieren könnte als ich und das kann es nicht