Posts

KI-Alltag - LLMs lokal hosten - 1337!

Bild
Lokale Installation von LLMs in 1337: benutzerfreundliche Methode mit OpenWebUI In einem früheren Beitrag habe ich eine Methode zur lokalen Installation von Large Language Models (LLMs) mit Python und LMStudio.ai vorgestellt. Heute möchte ich euch eine Variante präsentieren, die Linux, Ollama und OpenWebUI nutzt - also absolut 1337 🤓 Vorteile dieser Methode Integrierte Benutzeroberfläche mit OpenWebUI  Möglichkeit, mehrere LLMs und Bildgeneratoren wie StableDiffusion zu integrieren Nutzerverwaltung, Verwendung mehrerer GPTs, Presets,... Volle Kontrolle und Datensicherheit durch lokal installierte LLMs Schritt 1: Linux-Umgebung einrichten in Windows Ja, das geht! Mit WSL ist es möglich, Linux in Windows laufen zu lassen - wie 1337 ist das denn?! Einfach in der PowerShell eingeben: wsl --install und schon geht es los. Schritt 2: Ollama installieren Ollama ist ein Tool, das die Verwaltung und Ausführung v...

KI-Alltag - LLMs lokal hosten und nutzen

Bild
In weniger als 30 Minuten zum eigenen GPT: Lokales LLM mit Web-Interface Willkommen zurück! Seit Llama3.1 verfügbar ist, habe ich erst verstanden, dass man viele LLMs legal und kostenlos herunter laden kann. Was mich lange abgeschreckt hat, war, dass man sich mit GitHub, HugginFace auskennen und auch programmieren können muss um LLMs nutzbar zu machen. Bis ich ein Tool fand, dass das deutlich einfacher kann! Heute zeige ich euch, wie ihr in wenigen Schritten euer eigenes Chat-GPT-ähnliches System auf eurem lokalen Rechner einrichten könnt. Wir verwenden dafür das Llama 3.1 Modell und erstellen ein einfaches Web-Interface. Was ihr braucht: Ein leistungsfähiger Computer (am besten mit einer guten GPU) LM Studio Python-Code (erstellen wir mit Claude 3.5) HTML- und JavaScript-Code (erstellen wir mit Claude 3.5) Schritt 1: LLM-Server einrichten Ladet und installiert LM Studio von der offiziellen Website . Startet LM Studio und wählt das Llama 3.1 Modell aus. Es kann natürlich...

KI-Alltag - in weniger als 10 Minuten zum fertigen Arbeitsblatt!

Bild
Claude macht mich fertig!😲 Ich hatte vor nicht mal einer halben Stunde eine Idee für ein Arbeitsblatt für meine Schüler. Sie sollen sich mit Spektrographie beschäftigen und die Fraunhofer-Linien den richtigen Elementen zuordnen. Normalerweise ein Projekt für einen gemütlichen Sonntagnachmittag, oder? Das Problem, ich brauche die Arbeitsblätter morgen! Also Artifacts in Claude aktiviert und ihn/sie/es ran gelassen. Und boom! In der Zeit, in der ich sonst gerade mal meinen Kaffee aufgebrüht hätte, war das Ding fertig. Kein Witz! - es waren nicht mal 10 Minuten. Sonnenspektrum? Check. Element-Spektren? Check. Fraunhofer-Linien? No check. Aber gut, ein weiterer Prompt hat auch das korrigiert. Am Ende hatte ich ein mega-cooles SVG-Diagramm mit acht Sternen von Beteigeuze bis Proxima Centauri und neun Elementen. Alles schön bunt und übersichtlich. Die Kids werden's lieben! Klar, perfekt ist die KI nicht. Als ich nach einem PNG fragte, musste sie passen. Aber hey, für ein paar Minuten Ar...

KI-Alltag - Claude Claude Claude

Bild
 Long time no hear... Ja, das normale Leben hat mich gepackt, daher weniger Zeit zum Bloggen.  Was mich auch gepackt hat: Claude 3.5 Sonnet! So viel haut Anthropic gerade raus, es ist nicht mehr normal, nicht nur an Funktionen sondern auch im User Interface. Ich muss das alles erstmal verarbeiten und testen. Ein feines Feature sind natürlich die Artefakte. Ich habe diese verwendet um aus drögen wissenschaftlichen Publikationen spannende, interaktive (!) Visualisierungen zu erstellen. So erstellt Claude mit React aus dem Aufsatz von Albert Einstein zur Relativitätstheorie von 1907 ein interaktives Poster ( Link ). Animierte Grafik in React. Claude 3.5Sonnet Hier ist der Prompt dazu, natürlich auch mit Claude so generalisiert, dass er für jede Art von Aufsatz oder PDF verwendet werden kann: Erstelle ein interaktives Poster aus [Titel des wissenschaftlichen Werks] von [Autor(en)] aus dem Jahr [Erscheinungsjahr] bzw. dem angehängten PDF/Link. Die Ausgabe soll folgende Elemente ent...