KI-Alltag - Künstliche Intelligenz für (!) mehr Datenschutz!

-

Datenschutz und KI - ist das nicht ein Widerspruch?

Wenn man Datenschutz zusammen mit KI hört, geht es ja meistens darum, wie kritisch KI-Systeme, insbesondere LLMs, für den Datenschutz sind. Heute drehe ich den Spieß einmal um und zeige ein Beispiel, wie es umgekehrt laufen kann.

Let me explain...

Gleiche Datenbank - user-spezifischer Content

Wie ihr aus dem letzten Post wisst, sind wir ins Warhammer 40k-Universum abgetaucht. Warhammer gibt es seit über 40 Jahren und da ist entsprechend einiges an "Lore" zusammen gekommen. Vieles davon ist ziemlich grim-dark - also alles andere als kindgerecht.

Was also tun, wenn man junge Heranwachsende in das Universum einführen will, ohne sie zu traumatisieren?

Hier kommen lokale LLMs mit RAG in's Spiel!

Beispiel:
Ich habe unser lokales LLM mit tausenden Seiten Inhalt sowie Websiten rund um Warhammer gefüttert. Nun stelle ich eine Frage  zu einem der wichtigsten Konflikte in diesem Universum: 
Der Content ist jetzt alles andere als kindgerecht...
Diese "User-Gruppe" soll aber selbstständig das Warhammer-Universum mit KI-Unterstützung erforschen können. 
Lösung: ein angepasster Meta-Prompt!




Lädt man nun einen neuen Chat und stellt den selben Prompt nochmal, bekomme ich diese Antwort:


Diese Antwort ist deutlich besser!

Wichtig: der Prompt im Chatfenster ist exakt der selbe Prompt wie vorher!

Der Use-case

Extrapoliert man dieses Beispiel auf Schulen oder den Anwendungsfall in Unternehmen erkennt man das Potenzial: mit einem einfachen Meta-Prompt kann man ein und dieselbe Datenbank (diese bleibt ja unverändert) für verschiedene Nutzergruppen und Berechtigungsklassen zugänglich machen.

Die Vorteile

  • Transparenz - Berechtigungen, Freigaben, Userverwaltung etc. sind transparent in einem einzigen Tool (in diesem Fall AnythingLLM) verwaltet
  • Effizienz - bei der Bearbeitung der Datenbank muss man sich keine Gedanken über Freigaben o.ä. machen
  • Flexibilität - der Meta-Prompt lässt sich schnell anpassen; ohne Klicken in Datenbank-Einstellungen, sondern als natürlicher Fließtext geschrieben
Ich finde, das ist ein echter USP für Schulen und Businesses jeder Größe! Was meint ihr? Lasst uns diskutieren - ich freu' mich drauf.

#newwork #AI #safetyfirst


Beliebte Posts aus diesem Blog

KI-Alltag - LLMs lokal hosten und nutzen

-
Bild
In weniger als 30 Minuten zum eigenen GPT: Lokales LLM mit Web-Interface Willkommen zurück! Seit Llama3.1 verfügbar ist, habe ich erst verstanden, dass man viele LLMs legal und kostenlos herunter laden kann. Was mich lange abgeschreckt hat, war, dass man sich mit GitHub, HugginFace auskennen und auch programmieren können muss um LLMs nutzbar zu machen. Bis ich ein Tool fand, dass das deutlich einfacher kann! Heute zeige ich euch, wie ihr in wenigen Schritten euer eigenes Chat-GPT-ähnliches System auf eurem lokalen Rechner einrichten könnt. Wir verwenden dafür das Llama 3.1 Modell und erstellen ein einfaches Web-Interface. Was ihr braucht: Ein leistungsfähiger Computer (am besten mit einer guten GPU) LM Studio Python-Code (erstellen wir mit Claude 3.5) HTML- und JavaScript-Code (erstellen wir mit Claude 3.5) Schritt 1: LLM-Server einrichten Ladet und installiert LM Studio von der offiziellen Website . Startet LM Studio und wählt das Llama 3.1 Modell aus. Es kann natürlich...
Read more »

KI-Alltag - AnythingLLM: ein vielseitiges LLM-Tool mit Agents und RAG

-
Bild
Die Sommermonate waren etwas weniger KI-lastig, deshalb habe ich die letzten Tage genutzt und wieder etwas Neues ausprobiert.  Wer meinen letzten Beitrag zu eigenen LLMs ( Link ) gelesen hat weiß, dass ich bereits ein lokales KI-System laufen hatte. Hatte? Jo, hatte. Zumindest vorübergehend. Einige Probleme mit der Hardware, einem Docker-System das zwischendurch installiert werden musste, und dann wieder alles neu installiert werden musste, hat mich dazu bewegt etwas neues auszuprobieren. Bei der Recherche zu Ollama stieß ich schon auf AnythingLLM. ich war gespannt darauf, dieses vielseitige LLM-Tool auf die Probe zu stellen. In diesem Artikel teile ich meine Erfahrungen mit der Installation und Nutzung von AnythingLLM auf einem Amazon Web Services (AWS) Server. Installation und Setup Die Installation von AnythingLLM auf einem AWS-Server erwies sich als spannende Herausforderung. Im Vergleich zu lokalen Lösungen wie Ollama oder LM Studio, die wir in früheren Artikeln behandelt habe...
Read more »

KI-Alltag - LLMs lokal hosten - 1337!

-
Bild
Lokale Installation von LLMs in 1337: benutzerfreundliche Methode mit OpenWebUI In einem früheren Beitrag habe ich eine Methode zur lokalen Installation von Large Language Models (LLMs) mit Python und LMStudio.ai vorgestellt. Heute möchte ich euch eine Variante präsentieren, die Linux, Ollama und OpenWebUI nutzt - also absolut 1337 🤓 Vorteile dieser Methode Integrierte Benutzeroberfläche mit OpenWebUI  Möglichkeit, mehrere LLMs und Bildgeneratoren wie StableDiffusion zu integrieren Nutzerverwaltung, Verwendung mehrerer GPTs, Presets,... Volle Kontrolle und Datensicherheit durch lokal installierte LLMs Schritt 1: Linux-Umgebung einrichten in Windows Ja, das geht! Mit WSL ist es möglich, Linux in Windows laufen zu lassen - wie 1337 ist das denn?! Einfach in der PowerShell eingeben: wsl --install und schon geht es los. Schritt 2: Ollama installieren Ollama ist ein Tool, das die Verwaltung und Ausführung v...
Read more »