KI Alltag: Agenten für die Hosentasche

-
Ich habe letzte Woche an einem Webinar von snipKI teilgenommen und infolgedessen ein paar sehr kurze nicht gehabt weil ich mich ganz intensiv mit KI-Agenten beschäftigt habe. 

Danke an der Stelle an Jens und das SnipKI Team für das tolle Webinar!

Was ist überhaupt ein KI-Agent und warum werden die gerade so gehypt? 
Na ja im Grunde ist es so, dass KI-Agenten einem LLM wie Claude oder Mistral mit anderen Apps, Webseiten oder Datenbanken (was auch immer) verknüpfen. Man baut sich dann so eine Art Schaltkreis in der die KI eine Schlüsselrolle übernimmt und z.b automatisch Inhalte ausfüllt oder Aktionen durchführt.

Ich habe mich die letzten Tage tiefer mit einem dieser vielen automationstools beschäftigt und zwar mit n8n. Ein solcher Schaltkreis in einer 8 n sieht dann ungefähr so aus:

Man kann nun in diesen Schaltkreis alle möglichen Funktionen und Apps integrieren testweise habe ich meinen Agenten so aufgebaut: 
Ich schicke dem Agenten über Telegram eine Nachricht mit einer Frage zu meinen Terminen. Der KI-Agent durchsucht dann meinen Google Kalender und gib mir Informationen zu bestehenden Terminen oder legt sogar neue Termine an. 
Das coole daran ist da man in telegram auch sprachnachrichten verschicken kann kann ich jetzt mit der KI sprechen und so mit meinem Kalender interagieren. 
KI ist in diesem Fall das LLM von Mistral und kann natürlich alle anderen Sachen die ein Large Language Model auch kann. Das ist im Screenshot oben zu sehen wobei ich dem LLM Model die Aufgabe gegeben habe eine kurze Geschichte über den Grüffelo zu schreiben.

Dass das wirklich funktioniert ist in diesem Screenshot gezeigt in dem der ki-agent automatisch den angefragten Termin im Google Kalender angelegt hat. 

Natürlich kann man damit jetzt alle möglichen Apps, Datenbanken, Funktionen etc. mit einem LLM verknüpfen. Dabei muss man aber aufpassen dass die Aufgaben nicht zu viel werden da sonst das large language Model das dahinter steckt und alles verarbeiten muss natürlich durcheinander kommen kann. Das bedeutet man muss dann sogenannte agentic Systems anlegen also mehrere Agenten die alle ihre spezifische Aufgabe erfüllen und mit einem master-agenten sozusagen miteinander verknüpft sind. 

Alles in allem muss ich sagen ich kann den Hype um Agenten und agentic Systems voll und ganz nachvollziehen das wird aus meiner Sicht das große Thema der nächsten ein bis zwei Jahre werden und viele Aufgaben ja einfach automatisieren und einfacher machen und irgendwann hat jeder von uns so einen "Jarvis" in der Hosentasche.

Beliebte Posts aus diesem Blog

KI-Alltag - LLMs lokal hosten und nutzen

-
Bild
In weniger als 30 Minuten zum eigenen GPT: Lokales LLM mit Web-Interface Willkommen zurück! Seit Llama3.1 verfügbar ist, habe ich erst verstanden, dass man viele LLMs legal und kostenlos herunter laden kann. Was mich lange abgeschreckt hat, war, dass man sich mit GitHub, HugginFace auskennen und auch programmieren können muss um LLMs nutzbar zu machen. Bis ich ein Tool fand, dass das deutlich einfacher kann! Heute zeige ich euch, wie ihr in wenigen Schritten euer eigenes Chat-GPT-ähnliches System auf eurem lokalen Rechner einrichten könnt. Wir verwenden dafür das Llama 3.1 Modell und erstellen ein einfaches Web-Interface. Was ihr braucht: Ein leistungsfähiger Computer (am besten mit einer guten GPU) LM Studio Python-Code (erstellen wir mit Claude 3.5) HTML- und JavaScript-Code (erstellen wir mit Claude 3.5) Schritt 1: LLM-Server einrichten Ladet und installiert LM Studio von der offiziellen Website . Startet LM Studio und wählt das Llama 3.1 Modell aus. Es kann natürlich...
Read more »

KI-Alltag - AnythingLLM: ein vielseitiges LLM-Tool mit Agents und RAG

-
Bild
Die Sommermonate waren etwas weniger KI-lastig, deshalb habe ich die letzten Tage genutzt und wieder etwas Neues ausprobiert.  Wer meinen letzten Beitrag zu eigenen LLMs ( Link ) gelesen hat weiß, dass ich bereits ein lokales KI-System laufen hatte. Hatte? Jo, hatte. Zumindest vorübergehend. Einige Probleme mit der Hardware, einem Docker-System das zwischendurch installiert werden musste, und dann wieder alles neu installiert werden musste, hat mich dazu bewegt etwas neues auszuprobieren. Bei der Recherche zu Ollama stieß ich schon auf AnythingLLM. ich war gespannt darauf, dieses vielseitige LLM-Tool auf die Probe zu stellen. In diesem Artikel teile ich meine Erfahrungen mit der Installation und Nutzung von AnythingLLM auf einem Amazon Web Services (AWS) Server. Installation und Setup Die Installation von AnythingLLM auf einem AWS-Server erwies sich als spannende Herausforderung. Im Vergleich zu lokalen Lösungen wie Ollama oder LM Studio, die wir in früheren Artikeln behandelt habe...
Read more »

KI-Alltag - LLMs lokal hosten - 1337!

-
Bild
Lokale Installation von LLMs in 1337: benutzerfreundliche Methode mit OpenWebUI In einem früheren Beitrag habe ich eine Methode zur lokalen Installation von Large Language Models (LLMs) mit Python und LMStudio.ai vorgestellt. Heute möchte ich euch eine Variante präsentieren, die Linux, Ollama und OpenWebUI nutzt - also absolut 1337 🤓 Vorteile dieser Methode Integrierte Benutzeroberfläche mit OpenWebUI  Möglichkeit, mehrere LLMs und Bildgeneratoren wie StableDiffusion zu integrieren Nutzerverwaltung, Verwendung mehrerer GPTs, Presets,... Volle Kontrolle und Datensicherheit durch lokal installierte LLMs Schritt 1: Linux-Umgebung einrichten in Windows Ja, das geht! Mit WSL ist es möglich, Linux in Windows laufen zu lassen - wie 1337 ist das denn?! Einfach in der PowerShell eingeben: wsl --install und schon geht es los. Schritt 2: Ollama installieren Ollama ist ein Tool, das die Verwaltung und Ausführung v...
Read more »