KI im Alltag

Lokale Installation von LLMs in 1337: benutzerfreundliche Methode mit OpenWebUI In einem früheren Beitrag habe ich eine Methode zur lokalen Installation von Large Language Models (LLMs) mit Python und LMStudio.ai vorgestellt. Heute möchte ich euch eine Variante präsentieren, die Linux, Ollama und OpenWebUI nutzt - also absolut 1337 🤓 Vorteile dieser Methode Integrierte Benutzeroberfläche mit OpenWebUI  Möglichkeit, mehrere LLMs und Bildgeneratoren wie StableDiffusion zu integrieren Nutzerverwaltung, Verwendung mehrerer GPTs, Presets,... Volle Kontrolle und Datensicherheit durch lokal installierte LLMs Schritt 1: Linux-Umgebung einrichten in Windows Ja, das geht! Mit WSL ist es möglich, Linux in Windows laufen zu lassen - wie 1337 ist das denn?! Einfach in der PowerShell eingeben: wsl --install und schon geht es los. Schritt 2: Ollama installieren Ollama ist ein Tool, das die Verwaltung und Ausführung v...

 Zweifel ist der Schlüssel zu Wissen Einer meiner ersten Posts war ein Tipp, Chats zu sortieren und in "Personas" zu verwandeln.  (Ordnung in KI-Gespräche bringen) Ich denke, dass diese Art der Chat-Organisation mittelfristig überflüssig wird. Lasst mich erklären... Erstellt mit Dalle-3 Ich hatte eine Konversation mit GPT4o via Sprache. Es ging um die Vorbereitung für einen wichtigen geschäftlichen Vortrag (dazu mehr in einem späteren Posting). Ich hatte keine Zeit mehr, die Konversation fort zu setzen, also habe ich den GPT gefragt, ob ich unsere Unterhaltung später wieder "aufrufen" und fortführen kann: Konversation mit GPT4o im Mai 2024 Hinweis: ich war noch im "Sprachmodus" und wunderte mich über diese Aussage des GPTs: to=bio Also fragte ich nach: Konversation mit GPT4o im Mai 2024 OK, wow! 😵 Wichtigste Anwendungsmöglichkeiten: Bessere Konversationen Bestimmte Stichworte und Hinweise für gezieltere Konversation. Spezifische Begriffe wie "Coach...

In meinem  Posting von Mai 2024  habe ich Gemini und ChatGPT 3.5 + Wolfram getestet wie sie bei der Erkennung von Diagrammen aus Bilddateien abschneiden. Es war zwar beeindruckend, aber nicht sehr präzise. Gleicher Test, einen Monat später: Antwort von Gemini Advanced Exakt gleicher Prompt und gleiches Bild bei OpenAI hochgeladen: Antwort von ChatGPT4o Das ist schon echt beeindruckend! Beide LLMs treffen die Werte exakt! Natürlich nicht für jedes Diagramm, aber es ist kein Vergleich zu den Ergebnissen vor einem Monat. Wow! Halluzinationen bei Gemini Advanced Wenn ich im gleichen Chat mehrere unterschiedliche Diagramme analysieren wollte, halluzinierte Googles KI deutlich - die KI war auf das erste Bild "eingeschossen" und hat nicht erkannt, dass es eine komplett neue Analyse starten sollte. Wahrscheinlich hätte man das durch geschicktes Prompten umgehen können, aber ChatGTP hatte dieses Problem nicht... A propos Prompting... Der Prompt beschränkte sich dieses mal auf minimale...

Es regnet und die Kids brauchen Beschäftigung - was liegt da näher als Pokémon-Karten zu sortieren?  Das Ziel war, den Tauschwert der doppelten Karten zu ermitteln, damit die Kids diese mit ihren Freunden gegen andere Karten tauschen können. Nun kann man natürlich jede Karte anhand der Seriennummer einzeln online suchen - das ist aber aufwändig, daher habe ich das mit einem Experiment mit der Gemini KI verbunden.  Das Set-up  Die Gemini-KI habe ich zunächst über einen einfachen Prompt über die Aufgabe informiert und habe sie selbst Vorschläge machen lassen, wie sie die Aufgabe am besten lösen könnte. Der Vorschlag eine Tabelle zu erstellen war gut, meine Vermutung war, dass die KI dann auch weniger halluziniert bzw. nachträglich Einträge ändert - was sich als richtig erwies. Wir haben mit der KI einen Eingabeprozess vereinbart in dem die Karteninformationen in die Tabelle übertragen werden: Gleichzeitig sollte die KI zu jeder Karte den aktuellen Handelswert online recherc...

In meinem letzten Beitrag habe ich ja über die manuelle Strukturierung und Sortierung von Chats zu Personas gesprochen. Das ist natürlich keine "High-Tech" Lösung, aber ein pragmatischer Weg mit aktuellen KIs zu arbeiten. Ich glaube aber, dass das bald gar nicht mehr notwendig sein wird, aber dazu gleich mehr... Themenwechsel: Ich mache seit ein paar Tagen einen kleinen Test mit meinen KIs. Der Test sieht wie folgt aus: Ich präsentiere der KI ein Bild von einem Diagramm (Balken oder Kurvendiagramm) und bitte die KI dieses Diagramm zu analysieren und die Werte in einer Tabelle auszugeben. Bilder aus denen die KIs Datenpunkte abschätzen sollen Die Anwendung dafür sind vielfältig: KI-Tutoren im Schulunterricht, die beim Verstehen von Diagrammen, Grafiken etc. unterstützen. Rekonstruktion von Daten im Arbeitsalltag (wenn der/die KollegIn, die Zugriff auf die Excel-Tabelle hat in Urlaub ist) Erklärung von Daten für Blinde oder Sehbehinderte Ich wollte testen wie multimodaler KIs (...