TinyTroupe von Microsoft: KI-Gruppenarbeit

Dieser Tage sind wir über einen Artikel gestolpert, in dem es um einen Prototypen von Microsoft, das Projekt TinyTroupe geht. Das wichtigste zuerst: vielen Dank an die Mitarbeiter von Microsoft, die dieses tolle Tool erstellt und frei verfügbar gemacht haben!
Die Idee des Tools ist, dass man mehreren Chatbots spezifische Persönlichkeiten (sogenannten Personas im Marketing) gibt und sie als Gruppe interagieren lässt, um Themen von mehreren Seiten zu beleuchten. Beispiele, die man testen und für sich anpassen kann, sind:

Erstellung einer optimalen Anzeige für eine zu vermietende Wohnung
Bewertung, welche von drei Werbeanzeigen für Fernseher am ansprechendsten ist
u.v.m.

Wofür ist das gut?

KI Chatbots haben einiges bewegt in der Welt, da man sie für viele Dinge nutzen kann. Besonders mächtig werden Sie, wenn man sogenanntes Prompt Engineering verwendet. Ein beliebter Ansatz ist dabei, dem Chatbot eine Persönlichkeit zu geben, also z.B. sich so zu verhalten wie ein Autoverkäufer.

TinyTroupe entwickelt das um eine spannende Dimension weiter: dieses Tool ermöglicht es, mehrere derartig auf eine bestimmte Verhaltensweise geprägte Chatbots miteinander interagieren zu lassen, so, als würde man Menschen mit verschiedenen Hintergründen in einen Raum sperren, um ein Problem zu lösen. Eine geniale Idee! Danke, Microsoft!

Nur die Anleitung der Entwickler, naja… 😣

Natürlich wollten wir das ausprobieren, und es ist ein tolles und spannendes Tool! Leider mussten wir aber bei der Einrichtung etwas Nerven lassen, da die Installationshinweise auf Github, wo der Code gehostet ist, SEHR rudimentär sind. Durch probieren und testen haben wir es hinbekommen und wollen daher hier die Anleitung für alle teilen, die auch mit dieser nächsten Stufe der künstlichen Intelligenz experimentieren wollen.

TinyTroupe-Installationsanleitung für Windows-Dummies

Wir sehen uns zwar nicht als Dummies, aber man hätte schon ein paar zusätzliche Schritte bei der Installation angeben können. Hier also eine – hoffentlich vollständige – Anleitung. Sollten wir etwas vergessen haben, gebt uns bitte in den Kommentaren Bescheid, dann ergänzen wir das so schnell wie möglich.

Bevor man überhaupt daran denken kann, sich mit der offiziellen Installationsanleitung auf der Website auseinanderzusetzen, sollte man sich ein paar Dinge kümmern.

Softwareinstallation & Vorbereitung für Nicht-Entwickler

Wer nicht sowieso schon Software entwickelt, muss sich ein bisschen was installieren bzw. vorbereiten:

die notwendige Programmierumgebung. Die Befehle der offiziellen Anleitung lassen darauf schließen, dass Anaconda benutzt wird. Die aktuellste Version gibt es hier.
die Standardsoftware zur Software-Versionierung, git, mit der man gemäß Anleitung den Programmcode herunterlädt. Die aktuellste Version gibt es hier.

Damit die künstliche Intelligenz tatsächlich genutzt werden kann, braucht man einen sogenannten API-Key, also einen Schlüssel, über den TinyTroupe auf ChatGPT zugreifen kann:

man erzeugt diesen Schlüssel hier im Entwicklerbereich von OpenAI. Den Schlüssel sollte man unbedingt vor dem Speichern bei OpenAI kopieren und abspeichern, den brauchen wir noch und man kann ihn nach dem Erzeugen nicht mehr anzeigen, ohne ihn neu zu erstellen.
damit man ihn benutzen kann, muss man hier seine Kreditkartendaten eingeben und Budget für die Nutzung von ChatGPT kaufen.

Als nächstes sollte man sicherstellen, dass noch ein paar kleinere Anpassungen vorgenommen werden. Dazu brauchen wir eine Kommandozeile (Windows-Taste, dann „cmd“ eingeben und Eingabe drücken) und stellen sicher, dass alles, was die Befehle der offziellen Anleitung brauchen, auch gefunden wird:

Schritt 1: Systemsteuerung öffnen
Drücke Win + S (Windows-Suche öffnen) und gib ein: Umgebungsvariablen.
Klicke auf das Suchergebnis: „Umgebungsvariablen für dieses Konto bearbeiten“.
Schritt 2: Umgebungsvariablen bearbeiten
Im Fenster „Systemeigenschaften“ klicke unten rechts auf den Button „Umgebungsvariablen“.
In der Sektion „Benutzervariablen für [Dein Benutzername]“:
Suche die Variable Path und klicke sie an.
Wähle „Bearbeiten“ aus.
Schritt 3: Sicherstellen, dass conda überhaupt gefunden wird. Diese Einträge hinzufügen, falls sie noch nicht vorhanden sind:
C:\Users\<username>\anaconda3
C:\Users\<username>\anaconda3\Scripts
C:\Users\<username>\anaconda3\condabin
Schritt 4: Der folgende Befehl nimmt Anpassungen for, die notwendig sind, dass conda richtig arbeitet:
conda init --all
Schritt 5: Die Kommandozeile schließen und wieder neu öffnen, damit die Anpassungen hinterlegt werden.
Schritt 6: Testen, ob conda richtig läuft:
conda info

Die Schritte der offiziellen TinyTroupe Anleitung…

Jetzt sollten die Schritte aus der offiziellen Anleitung problemlos funktionieren:

mit der Kommandozeile in das Verzeichnis gehen, in dem man das Projekt erzeugen will
Umgebung erstellen:
conda create -n tinytroupe python=3.10
Umgebung aktivieren:
conda activate tinytroupe
Programmcode herunterladen:
git clone https://github.com/microsoft/tinytroupe
In das richtige Verzeichnis wechseln:
cd tinytroupe
Alle zusätzlichen Softwarepakete für den Code installieren:
pip install .

Fehlt da nicht was?

An dieser Stelle bricht die offizielle Anleitung leider ab und erklärt nicht, wie man tatsächlich mit TinyTroupe arbeitet, wenn man es denn nun installiert hat, nur, dass es Beispiele gibt.

Die fehlenden Informationen sind:

um sicherzugehen, dass der API-Key von OpenAI verfügbar ist, können wir ihn jetzt in unserer Shell definieren und für die zukünftige Nutzung speichern:
setx OPENAI_API_KEY <API-Key>
die Umgebung, in der man mit TinyTroupe arbeitet, nennt sich Jupyter Notebook. Jupyter Notebook ist eine Kombination von Kommandozeile und Notizbuch. Diese Umgebung ist auch bereits installiert, man muss sie nur noch starten:
jupyter notebook

Für jeden späteren Start muss man nur noch conda activate tinytroupe und dann jupyter notebook im tinytroupe Verzeichnis ausführen.

Es startet nun ein Webserver und eine Website im Browser, in der man TinyTroupe testen und anpassen kann:

mit dem Dateibrowser der Website wählt man eines der Beispiele aus
jede „Zelle“ des Notizbuchs enthält einen Text, Programmcode oder beides. Damit TinyTroupe funktioniert, führt man eine Zelle nach der anderen aus, entweder über den „Play“ Knopf am oberen linken Rand oder das Tastenkürzel Umschalttaste + Eingabetaste.

TinyTroupe: wie experimentiert man?

Um das Ganze zu testen bzw. damit zu experimentieren, kann man einfach eines der vorhandenen Beispiele ausprobieren und es dann an die eigenen Bedürfnisse anpassen.

Viel Spaß mit TinyTroupe!