So arbeite ich mit KI — und das überlasse ich ihr nicht

Zuerst muss ich die Aufgabe verstehen

Eine Entwicklung beginnt selten mit einer fertigen Spezifikation. Meist versuchen wir anhand von E-Mails, Notizen, Screenshots und einem Gespräch zusammenzutragen, was gebraucht wird. Dabei kann KI nützlich sein: Sie kann das Besprochene zusammenfassen, Anforderungen gruppieren und Punkte hervorheben, die noch unklar sind.

Die Zusammenfassung muss allerdings mit der ursprünglichen Anfrage abgeglichen werden. Eine wichtige Bedingung kann leicht verloren gehen, oder eine bloße Annahme erscheint plötzlich als feststehende Tatsache. Wenn der Kunde noch nicht entschieden hat, ob er ein Abonnementmodell benötigt, darf daraus im nächsten Dokument nicht unbemerkt eine verbindliche Funktion werden.

Am Ende einer guten Vorbereitung ist für mich klar, was wir vereinbart haben, was wir annehmen und wo wir noch nachfragen müssen. KI kann dabei Ordnung schaffen, aber sie kann nicht stellvertretend für den Kunden entscheiden, was er möchte. Ein schnell erstelltes Briefing ist nur dann ein Vorteil, wenn es zu einem präziseren Gespräch führt.

Eine andere Perspektive hilft beim Durchdenken einer Lösung

Während der Planung kann ein anderer Blickwinkel wertvoll sein. Welche einfachere Lösung kommt infrage? An welchen Fehler haben wir noch nicht gedacht? Brauchen wir wirklich ein neues System, oder sollten wir das vorhandene mit etwas anderem verbinden? Bei solchen Fragen lohnt es sich, mehrere Antworten zu prüfen.

Der beste KI-Vorschlag ist nicht unbedingt der längste oder derjenige, der die meisten Technologien aufzählt. Für das interne System eines kleineren Unternehmens würde ich keine komplexe Architektur wählen, nur weil sie modern klingt. Die erwartete Nutzung, die Wartung, das verfügbare Fachwissen und die Kosten zählen gemeinsam.

Ein Vorschlag ist für mich deshalb eine Gesprächsgrundlage. Es ist hilfreich, wenn er etwas sichtbar macht, an das ich noch nicht gedacht habe. Die Entscheidung muss ich trotzdem an den tatsächlichen Bedingungen des Projekts messen. Dasselbe gilt für einen gut formulierten Einwand: Nur weil er überzeugend klingt, muss er noch nicht auf unseren Fall zutreffen.

Kleinere Aufgaben lassen sich klarer übergeben

Bei der Umsetzung kommt es auf die Grenzen einer Aufgabe an. Eine konkrete Datenprüfung, eine abgegrenzte Oberfläche oder ein Test für ein bekanntes Verhalten lässt sich leichter prüfen als eine auf einmal umgeschriebene Anwendung. In kleineren Schritten fällt auch früher auf, wenn die KI etwas falsch verstanden hat.

Bei einer Funktion zur Terminänderung lässt sich zum Beispiel vorab klären, wer Änderungen vornehmen darf, bis wann das möglich ist und was mit der ursprünglichen Buchung geschieht. Sind diese Bedingungen nicht beschrieben, muss das Werkzeug an unserer Stelle eine Lösung wählen. Das Ergebnis kann auf dem Bildschirm trotzdem funktionieren, ohne unbedingt das zu tun, was wir eigentlich wollten.

Bei einer erhaltenen Änderung würde ich deshalb nicht nur auf das sichtbare Ergebnis schauen. Ich muss auch verstehen, welche Dateien verändert wurden, welche Abhängigkeiten hinzugekommen sind und ob sich anderes Verhalten ebenfalls geändert hat. Auch ein schnell erstellter Teil muss in das bestehende System passen.

KI kann bei der Prüfung helfen, aber sich nicht selbst bestätigen

KI lässt sich gut einsetzen, um mögliche Testfälle zusammenzutragen. Was passiert bei fehlenden Daten, abgelaufenen Zugriffsrechten, einer wiederholten Anfrage oder dem Ausfall eines externen Dienstes? Schon wenn dadurch mehr solcher Situationen frühzeitig sichtbar werden, ist etwas gewonnen.

Wir müssen allerdings darauf achten, dass ein erstellter Test nicht bloß dasselbe Missverständnis festschreibt, das bereits im Code steckt. Das richtige Verhalten muss aus der vereinbarten Geschäftsregel abgeleitet werden, nicht daraus, wie sich das aktuelle Programm zufällig verhält. Wenn eine Buchung ohne Zahlung nicht verbindlich werden darf, gilt diese Anforderung auch dann, wenn ein generierter Test etwas anderes erwartet.

Die Tests müssen ausgeführt und wichtige Abläufe auch über die Oberfläche geprüft werden. Zwischen „fertig“ und „bereit zum Testen“ besteht ebenso ein Unterschied wie zwischen „getestet“ und „in jeder Situation fehlerfrei“. Deshalb sollten wir genau benennen, was wir tatsächlich überprüft haben.

Es kommt darauf an, was wir dem Werkzeug übergeben

Die Arbeit mit KI hat auch eine Seite, die den Umgang mit Daten betrifft. Ein technisches Beispiel lässt sich oft mit erfundenen Daten untersuchen. Dafür braucht es nicht unbedingt einen echten Kundennamen, einen vollständigen E-Mail-Verlauf oder Zugangsdaten zum Produktivsystem. Wir sollten die Informationen übergeben, die für die Aufgabe nötig sind, und dabei den eingesetzten Dienst und die Bedingungen des Projekts kennen.

Eine eigene Frage stellt sich, wenn das System externe E-Mails, Webseiten oder Dokumente liest. Darin können Texte stehen, die sich als Anweisungen ausgeben und so versuchen, das Verhalten des Systems umzulenken. Dieses Risiko heißt Prompt Injection: Zu verarbeitender Inhalt darf nicht automatisch zu einem auszuführenden Befehl werden. Die Erklärung von OWASP beschreibt, warum das auch beim Entwurf einer Anwendung berücksichtigt werden muss.

Wenn KI nicht nur Texte erstellt, sondern Dateien ändern, E-Mails versenden oder in einem Geschäftssystem handeln kann, müssen Berechtigungen und Freigabepunkte gesondert geplant werden. Eine Antwort zu formulieren und sie tatsächlich zu versenden, bringt unterschiedliche Verantwortung mit sich.

Der Kunde sollte den Unterschied am Ergebnis spüren

In meiner eigenen Arbeit erlebe ich heute, dass KI viele zeitaufwendige, wiederkehrende Teile des Programmierens und der Fehlersuche beschleunigt. Zusammen mit meinen Automatisierungen fühlt es sich manchmal so an, als hätte ich zwei weitere Entwickler und eine Assistenz an meiner Seite. Damit meine ich kein Ergebnis, das sich genau in Personal oder Arbeitsstunden umrechnen lässt, sondern beschreibe, wie ich den Unterschied erlebe. Die Aufgabe zu durchdenken, Entscheidungen zu treffen und die fertige Arbeit zu prüfen, bleibt meine Verantwortung.

Auch bei der Vorbereitung von Dokumentation und Kommunikation haben diese Werkzeuge ihren Platz. Eine Zusammenfassung einer Änderung, ein erster Entwurf für eine Übergabedokumentation oder geordnete Besprechungsnotizen können nützlich sein. Die technischen Fakten müssen aber auch hier geprüft werden: Die Dokumentation darf keine Funktion versprechen, die das System nicht bietet.

Ich möchte nicht für jede Aufgabe einen allgemeinen Geschwindigkeitsgewinn behaupten. Manchmal wird die Vorbereitung einfacher, manchmal nimmt die Prüfung einen erheblichen Teil der Zeit in Anspruch. Entscheidend ist, dass am Ende des gesamten Ablaufs ein besseres Ergebnis steht und verständlich bleibt, was entstanden ist.

Der Kunde nutzt am Ende das System, das wir ihm übergeben, und nicht die Zahl der Vorschläge, die ich von einem Modell angefordert habe. Für mich ist KI deshalb dann eine gute Hilfe, wenn meine Arbeit dabei nachvollziehbar bleibt und ich weiterhin die Verantwortung für meine Entscheidungen trage.