In der Sitzung des KI-Beirats am 13. Oktober ging es um das Vertrauen in künstlich erzeugte Informationen, die Grenzen automatisierter Wissensvermittlung und die Frage, welche Kompetenzen wir im Umgang mit KI künftig benötigen.
Wenn die Suchmaschine nicht mehr suchen lässt
Wer früher im Internet recherchierte, musste sich häufig durch zahlreiche Suchergebnisse arbeiten, Quellen vergleichen und Zusammenhänge selbst herstellen. Heute erhalten Nutzer immer häufiger eine fertig formulierte Antwort. Was zunächst nach einer enormen Zeitersparnis klingt, kann jedoch auch zum Problem werden.
Aus der Runde wurde berichtet, dass die klassische Recherche zunehmend schwieriger empfunden wird. Gesponserte Ergebnisse und KI-Zusammenfassungen nehmen viel Raum ein, während der Zugang zu unterschiedlichen Perspektiven und Primärquellen weniger unmittelbar erscheint. Gleichzeitig wurde deutlich, dass klassische Suchfunktionen weiterhin verfügbar sind und sich etwa über gezielte Suchfilter nutzen lassen.
Dahinter steht eine grundsätzliche Veränderung: Suchen wir noch nach Informationen oder erwarten wir bereits fertige Lösungen? Und was geht verloren, wenn wir uns nicht mehr selbst durch unterschiedliche Quellen bewegen?
Überzeugend formuliert, aber trotzdem falsch
Dass KI-generierte Antworten mit Vorsicht zu genießen sind, zeigte sich an mehreren Beispielen aus dem Berufsalltag. So wurden Fälle geschildert, in denen Kund fehlerhafte KI-Analysen zur Suchmaschinenoptimierung für verlässliche Bewertungen ihrer Websites hielten. Auch bei rechtlichen Fragestellungen können die Ergebnisse problematisch werden.
Ein Beispiel aus der Rechtsberatung verdeutlichte das Risiko: Ein von KI erstellter Rahmenvertrag wirkte auf den ersten Blick weitgehend brauchbar. Allerdings fehlten entscheidende Regelungen, unter anderem zur Prüfung von Rechten Dritter. Gerade solche Auslassungen können für Designer erhebliche rechtliche Konsequenzen haben.
Das Problem liegt auch in der überzeugenden Sprache der Systeme. Eine ausführliche, selbstsicher formulierte Antwort vermittelt schnell den Eindruck fachlicher Kompetenz. Dabei können selbst angegebene Quellen erfunden sein oder die behaupteten Informationen überhaupt nicht enthalten.
Die zentrale Erkenntnis der Diskussion: Je schwieriger sich eine Antwort überprüfen lässt und je größer ihre möglichen Folgen sind, desto wichtiger wird die eigene fachliche Kontrolle.
Neue Werkzeuge für eine verlässlichere Recherche
Dabei muss KI keineswegs aus der Recherche verschwinden. Vielmehr kommt es darauf an, das passende Werkzeug für die jeweilige Aufgabe auszuwählen.
Als Beispiel wurde Perplexity diskutiert, das bei Recherchen Quellen direkt ausweist und damit eine gezielte Überprüfung erleichtert. Auch Googles NotebookLM bietet einen interessanten Ansatz: Hier können Nutzer eigene Dokumente und Fachtexte als Wissensgrundlage bereitstellen und gezielt Fragen zu diesen Materialien stellen.
Ein weiterer Ansatz ist die sogenannte Retrieval Augmented Generation (RAG). Dabei werden KI-Systeme mit durchsuchbaren Dokumentensammlungen verbunden, um Informationen aus bestimmten Wissensbeständen abzurufen. Für umfangreiche Facharchive oder juristische Recherchen können solche Verfahren neue Möglichkeiten eröffnen.
Doch auch hier bleibt die Quellenprüfung entscheidend. Denn selbst wenn KI ausschließlich mit bereitgestellten Materialien arbeitet, bedeutet das nicht automatisch, dass sie deren Inhalte korrekt interpretiert.
KI-Kompetenz beginnt beim Verstehen
Zum Ende der Diskussion rückte deshalb verstärkt die Vermittlung von Medienkompetenz in den Mittelpunkt. Anhand eines Beispiels aus dem Schulunterricht wurde deutlich, wie groß die Chancen, aber auch die Herausforderungen beim Erlernen neuer Technologien sind.
KI kann dabei helfen, unbekannte Software zu verstehen, Arbeitsabläufe nachzuvollziehen oder eigenständig Lösungen zu entwickeln. Voraussetzung ist allerdings, dass Nutzer lernen, ihre Fragen präzise zu formulieren, Ergebnisse kritisch einzuordnen und Fehler zu erkennen.
Für Designer ist das gleich doppelt relevant. Sie müssen nicht nur ihre eigenen Arbeitsprozesse an neue Technologien anpassen, sondern häufig auch Kund erklären, was KI leisten kann und wo ihre Grenzen liegen.
Die Diskussion führte schließlich zur Frage nach digitaler Unabhängigkeit: Welche Rolle werden etablierte Softwareanbieter künftig spielen, wenn KI neue Werkzeuge und Alternativen ermöglicht? Und wie stark bestimmen bestehende Gewohnheiten und Dateiformate, mit welchen Programmen wir arbeiten?
Damit zeichnet sich bereits das nächste Thema des KI-Beirats ab: Open Source, digitale Unabhängigkeit und die Möglichkeiten, sich von etablierten Software-Ökosystemen zu lösen. Denn die entscheidende Frage ist längst nicht mehr nur, was KI für uns erledigen kann, sondern auch, wie selbstbestimmt wir mit ihr arbeiten möchten.