Effiziente und sichere Arbeit mit KI und Agents
Schon beeindruckend, was KI und Agents alles können. Aber sollte man etwas tun, weil es geht? Eine kritische Bestandsaufnahme.
Ich habe die KI wirklich nicht vom ersten Tag an ins Herz geschlossen.
Im Gegenteil, lange Zeit zählte ich mich zu den Skeptikern.
Dafür konnte ich eine Menge Gründe anführen, und kann es noch immer. Doch einerseits ist die Entwicklung der Technik beeindruckend, sowohl hinsichtlich ihrer Geschwindigkeit als auch der Möglichkeiten, die sie bietet. Und andererseits hilft es ja nichts, sich neuen Entwicklungen zu verschliessen, schon dreimal nicht, wenn sie so drastische Eingriffe in meinen Berufsalltag verspricht.
Heute arbeite ich täglich mit der KI, ihren Agents, angefangen von Recherche über Integration in Kundenprojekte bis hin zum AI Assisted Coding bzw. vibe coding. Und begleite Kunden dabei, die KI in ihre Projekte zu integrieren.
KI-Tipps vom Skeptiker: Effizientes Arbeiten mit KI & Agents. Model-Pingpong, "Ich weiß es nicht" sagen, Sicherheit & Isolation. Zukunftssichere KI-Tools & Prozesse. Zeit für ein kleines Fazit und Tipps.
Effiziente Arbeit mit KI und Agents
Ja, das haben Sie schon ein paar mal gelesen. Gefühlt dreht sich inzwischen alles um die effiziente Arbeit mit der KI, tausende Artikel und Best-Practises wo man hinschaut - halt alles dasselbe. Ist wahrscheinlich auch meist von einer KI geschrieben.
Von mir also auch ein paar Tipps, selbst erlitten;
Model-Pingpong
Das ist wahrscheinlich der billigste von allen.
Wenn Sie immer mit chatGPT arbeiten, kriegen sie auch immer eine Antwort aus diesem Universum.
Haben Sie schon mal Gemini mit der selben Frage belästigt, die Sie schon der openAI KI gestellt haben?
Und? Selbe Antwort erhalten?
Kommt natürlich drauf an, was man fragt. Bei Themen, für deren Beantwortung sehr eindeutige Trainingsdaten zugrunde liegen, ist es einfach. Noch viel mehr, wenn man die Antwort zumindest grundlegend bewerten kann, und recht schnell merkt, ob das so stimmen kann.
Komplizierter wird es bei Fragen, auf die es keine eindeutige Antwort gibt, oder mehrere, teils widersprüchliche.
Nehmen Sie mindestens 2 verschiedene. chatGPT, Gemini, Perplexity, Claude, alle haben ihre Stärken und Schwächen.
Für Software-Entwicklung und Programmierung würde ich Claude nehmen, für technische Fragen im Allgemeinen eher Gemini. Wenn Sie Fragen stellen, bei denen es auf Aktualität ankommt, hat Perplexity die Nase vorn.
Das ist eine Momentaufnahme, und kann sich in 4 Wochen schon wieder geändert haben.
Doch das Prinzip bleibt gleich.
Stellen Sie ihre Frage der einen, dann nehmen Sie die Antwort, stellen die selbe Frage einer anderen und geben ihr die Antwort zur Beurteilung gleich mit. Oder stellen die Frage ohne die Antwort, und nehmen dann beide und schicken diese jeweils beiden KIs in den Promt zur Bewertung.
Ich denke, die Idee ist klar.
Erinnert an Lost in Translation? yep.
Sag "ich weiss es nicht"
Noch ein billiger Trick, aber wirkt Wunder.
Statt die KI im Brustton der Überzeugung mit Halbwahrheiten oder groben Unfug antworten zu lassen - das tut Sie gerne - geben Sie ihr gleich mit, dass sie durchaus etwas nicht wissen darf.
"Wenn du die Antwort nicht kennst, sag es".
Gehört in jeden Prompt, zumindest wenn die Frage ein klein wenig komplexer ist
Frag, wenn du etwas nicht verstehst
Eigentlich eine Ableitung des vorigen, und erklärt sich selbst.
Sollte man unter jede komplexere Aufgabenstellung schreiben.
Das waren die Einfachen. Doch schon mal irgendwo gelesen? Well.
Machen Sie sich nicht abhängig
Glücklich mit Claude? Klasse! Ganze Prozesse damit optimiert und darauf aufgebaut? Super! Eine Reihe an Agents entwickelt, die sich nahtlos in Ihren Workflow integrieren? Na aber hallo!
Und was machen Sie, wenn Antrophic morgen zumacht? Aufgekauft wird? Noch nie passiert? Ach.
Ich weiss nicht, ob da noch jemand mitzählt, aber können Sie aus dem Stand alle relevanten Player im KI Markt aufzählen? Also nur die, welche ein eigenes Model entwickelt haben und gerade verzweifelt versuchen, das irgendwie zu monetarisieren?
Und nun lassen wir mal die Euphorie aussen vor - nüchtern betrachtet, für wie wahrscheinlich halten sie es, dass all diese Player in sagen wir 2 Jahren noch da sind? Und - trauen Sie sich zu, zu beurteilen, welche das dann sind?
Ketten Sie sich gerade an einen Anbieter, von dem Sie wissen, dass er unprofitabel arbeitet (das tun sie alle), massiv Konkurrenz hat und das in einem Markt, den keiner so richtig versteht und einschätzen kann?
Na klar, nutzen Sie die KI. Aber planen Sie vor. Bauen Sie Ihre Prozesse so, dass Sie morgen unter der Haube einfach von openAI zu Gemini wechseln können. Oder Claude. Egal. Sie wissen schon.
Sicher? Ganz sicher?
Claude Desktop kann nun auf lokale Dateien zugreifen, und irgendwer hat MCP Server erfunden.
Seit also die Agenten da sind, überschlägt sich das Netz. Und ja, die Möglichkeiten sind faszinierend.
Dass sich ganz anscheinend kaum jemand Gedanken um die Sicherheit macht, allerdings auch.
Sollten Sie aber.
Sonst heult am Ende wieder jemand.
Isolieren Sie das Ding!
Also nochmal, die Desktop App von Claude hat Zugriff auf Dateien. Und Connectoren zu allen möglichen Diensten, die sich da öffnen.
Für alles andere gibt es MCP Server.
Dieser Schritt hat letztlich die Agents erst ermöglicht. Wir können also der KI bzw ihrem Agenten eine Aufgabe übertragen, und wenn wir das richtig und gut machen, macht das der Agent auch richtig und gut und vor allem autonom. Weitgehend zumindest.
Mails lesen und schreiben, Aufgaben verteilen, Recherche, PDFs erstellen, all das geht. Und klar, das ist ein Spielzeugkasten, der einem Bastler aber mal so richtig das Herz aufgehen lässt. Da vergisst man leicht, dass alles, auf das die KI Zugriff hat (Ihr Mailkonto, und so weiter) auch an die KI geschickt werden kann (den Konjuktiv lasse ich drin, in dubio pro reo).
Echt jetzt?
Von Fremden keine Süssigkeiten
Übrigens. Die MCP Server, die da draussen angeboten werden (und das sind eine Menge), von wem sind die gleich nochmal?
Eigentlich ist dieses Thema nach diesem Satz schon durch, oder sollte es zumindest. Aber gerne nochmal in deutlich:
Nicht nur, dass die KI alles darf, was sie so angebunden kriegt (Filezugriff auf Ihrem PC, Mailkonten, Zaphier, Notion). MCP Server machen das alles auch, nur halt noch schlimmer, weil - wohin schickt der Server das nochmal? Wer hat das Ding programmiert?
Isolieren Sie das Ding II
Eigentlich sollte ich schon bei "Die KI hat Zugriff auf Ihre Dateien" aufhören können.
Reality begs to differ.
Also ausholen: Wenn Sie mit einem KI Assistenten ernsthaft vibe coding betreiben, also nicht einfach chatGPT einen 20 Zeilen Code aus den Rippen leiern und dann in die Codebase pasten, sondern die KI die Cosebase selbst erstellen lassen. Klappt übrigens fantastisch. Also, wenn Sie sowas machen, dann muss die KI zwangsläufig schreiben und lesen können. Und Zugriff auf ein paar Systembefehle oder Programme auch. Git, Bash, ssh, wenn der Agent das darf, dann wird die Arbeit einfach.
Aber. Die Agent Cli läuft unter Ihrem Benutzer. Die KI und Ihr Agent dürfen also alles, was Ihr Benutzer auf Ihrem Pc auch darf.
Wird Ihnen grade ein bisschen schlecht?
Super.
Da gibt es übrigens recht simple Lösungen.
Lassen Sie den Agent unter einem anderen User mit sehr eingeschränkten Berechtigungen laufen.
Dockerisieren Sie das ganze.
Ach, Anthropic verspricht, dass Claude Code nicht aus dem Projektverzeichnis rauskommt?
Genau.
Na sicher
Nochmal für vibe coder:
Es bringt nix, wenn die .env Dateien in der .gitignore stehen, der Cli Agent aber Zugriff aufs Projektverzeichnis hat. Oder per ssh auf den Webserver, zum Debugging.
Letzteres ist übrigens eine ganz jämmerliche Idee.
Wenn es schon ein automatisiertes Deployment sein soll, dann doch ein /command auf ein Shellscript, dass eine one-way Übertragung per scp anstößt (und protokolliert, was da passiert).
Yolo.
So wird übrigens derzeit ein Modus genannt, mit dem man dem Cli Agent uneingeschränkten Zugriff gibt und alle Berechtigungsprüfungen umgeht.
Ich weiss nicht so richtig, welcher Teil davon mich mehr amüsiert.
Sicher ist sicher
Ürbigens: Die technisch Affinen unter Ihnen werden es schon wissen - Security Tests werden immer häufiger KI unterstützt ausgeführt. Klar, die KI kann auf einen umfangreichen Fundus an Sicherheitslücken zugreifen, und ist ganz generell ein toller Sparrings-Partner für Pentesting. Die kann das halt.
Und so was lassen Sie auf Ihrem PC spielen, unbeaufsichtigt, mit Ihrem Useraccount, und an Ihre Lieblingsdienste angebunden?
Ich wollte es nur nochmal sagen.