Verwendest du Google als Suchmaschine oder eine andere?

Alles self-hosted, wobei es dir überlassen bleibt. Du kannst auch API-Schlüssen via Groq, Openrouter und Co. verwenden, zumal Perplexica es Open-Source ist.

Ich müsste schauen.
Ich nutze ja momentan ja sehr viel Mixtral und gemma. Perplexica hab ich noch nicht getestet.

Also preislich ist OpenRouter mit das Beste, sofern du die großen LLMs via API verwenden möchtest. Ansonsten reichen aber auch lokale LLMs. Es muss also nicht mal zwingend ein Server sein, sondern auch auf dem eigene Host laufen kann.

Noch praktischer und einfacher wird es, wenn du es in Docker aufsetzt (so läuft ws bei mir lokal und extern). Ebenso praktisch, wenn man AI auf konkreten Seiten einsetzt.

Ich hatte die Erfahrung gemacht das Ollama extreme Performanceprobleme hat, wenns im Container ist und wenn es außerhalb ist gehts besser.

Ja, das ist richtig und kann ich so bestätigen. Daher läuft Ollama direkt auf dem Host und nur alles andere drumherum gebaut wird. Auf meinem Server ist es nochmal etwas anderes, aber lokal läuft Ollama bei mir auch direkt auf dem Host.

Ich nehme an, wir haben so ziemlich das gleiche Setup.

Ja, scheint so zu sein. Ich weiß halt nicht, was du sonst so damit anstellst. Aber vom Setup dürfte es grundlegend identisch sein. Also zumindest wie die einzelnen Dienste aufgeteilt werden, in dem sie auf dem Host oder über Docker laufen.

Hauptsächlich nutze ich es für Bild Generation/Transkription, Videos Transkripten/zusammenfassen und um zu lernen, sowie mit meinen Notizen zu arbeiten (Integration in Obsidian).

Ja, dann ist unser Setup und Verwendungszweck identisch. Selbst bei meinen Notizen schaut es nicht anders aus. Da läuft auch Obsidian mit AI-Integration. 👍 Wobei ich auch viel über RAGs (u.a. n8n + Qdrant) automatisiert habe.

Okay, da bin ich noch nicht so weit in der Automatisierung.

Ich kann nur sagen, es lohnt sich. Vielleicht jetzt auch meine Kritik unter der anderen Antwort etwas anders einordnest. Zumindest mit den Möglichkeiten die es gibt, sofern man Datensicherheit/Datenschutz wirklich ernst nimmt.

Aber cool, dass du auch in dem Bereich unterwegs bist.

Es gibt für unsere Demokratie und Rechtsstaatlichkeit weitaus größere Gefahren als Google, an denen zuvorderst gearbeitet werden muss. Und es ist mir egal, was die für Daten von mir haben, es ist nichts darunter, was ich irgendwie großartig zu verbergen hätte. (Und wie ein anderer User schon anmerkte, solltest du als YouTube-Nutzer den Ball schön flach halten.)

es ist nichts darunter, was ich irgendwie großartig zu verbergen hätte

Das ist eine Illusion.

wie ein anderer User schon anmerkte

Hast du gesehen, was ich darauf geantwortet habe?

Nein, habe ich nicht. Interessiert mich auch nicht. Überhaupt weiß ich nicht, warum du dich hier bei mir einmischst, da mich deine Ansichten per se nicht interessieren, sonst hätte ich danach gefragt. Ich entziehe mich aus genau dem Grund hier auch jeder weiteren Debatte mit dir. xD