Wir haben uns am 14.10. mit ihnen getroffen und unterhalten: Über ihr Tool, Boris Eldagsen und die Zukunft der digitalen Kunst.
AGD: In eurem Namen, It’sNotAI, sagt ihr bereits deutlich,
worum es in eurem Label geht. Warum dieser Fokus auf das Menschliche?
ItsNotAI: Wir sehen überall KI-generierte Bilder – auf Instagram, Tumblr, entstanden aus Tools wie Midjourney oder DALL·E. Für Betrachter:innen ist oft überhaupt nicht mehr erkennbar, ob etwas von Hand bzw. mit klassischen digitalen Methoden entstanden ist oder von einer KI kommt. Unser Ansatz ist: Wir kennzeichnen das, was in Zukunft eher zur „Seltenheit“ wird, also das menschlich geschaffene, KI-freie Werk. Ähnlich wie beim Kunsthandwerk oder beim Bio-Siegel: Markiert wird bei uns das Produkt, in dem mehr Können und Arbeit steckt und das dadurch einen besonderen Wert hat.
AGD: Angenommen ich bin Illustratorin und möchte meinem Werk das Label geben,
wie läuft das praktisch ab? Was muss ich dafür tun? .
ItsNotAI: Auf unserer Website gibt es die Schaltfläche „Get Label“. Dort kann man sein Werk hochladen und ein paar Basisinfos angeben: Name, E-Mail, kurze Projektbeschreibung. Optional kann man Zwischenschritte mitsenden, also Work-in-Progress-Bilder oder Skizzen, die zeigen, wie das Werk entstanden ist. Das hilft uns bei der Prüfung.
Wird das Werk als nicht-KI-generiert identifiziert, bekommt man eine Certificate ID (eine eindeutige Kennziffer), das Label als Datei, das in Bild- oder Bildbeschreibung eingebaut werden kann und optional einen QR-Code. Mit dem kann das Publikum die Echtheit des Labels prüfen.
In einem kurzen Pitch erklären uns die Sprecher des Start-Ups, Thomas und Patrick, wie ihr Tool dabei funktioniert. Für die technische Umsetzung und Wartung der dafür nötigen Engines ist Liquan verantwortlich und erklärt auf Englisch, wie ihr System KI-Inhalte von „echten“ Bildern unterscheiden kann:
AGD: Wie findet eure Software heraus,
ob ein Bild von einer KI stammt oder nicht?
ItsNotAI: Da wir noch in der Testphase sind, wird bei uns aktuell jedes eingereichte Werk in zwei Schritten analysiert – einem technischen und einem menschlichen.
Technisch läuft es so ab: Das Bild läuft durch fünf Erkennungs-Engines. Jede dieser Engines ist auf bestimmte KI-Arten spezialisiert, z.B. Smartphone-Bildverbesserung, Adobe-Tools oder Bildgeneratoren wie Midjourney. Jedes dieser Modelle hinterlässt im Bild eine Art „digitalen Fingerabdruck“, wie eine sehr gleichmäßige Textur oder typische Muster in den Bildfrequenzen, die bei echten Fotos so nicht auftreten. Man kann sich das vorstellen wie eine Lupe, die nicht auf Formen oder Farben schaut, sondern auf das „Rauschen“ im Bild. Jede Engine errechnet dann, wie wahrscheinlich die Generierung mit KI ist, was am Ende zu einem Gesamtwert zusammengefasst wird.
AGD: Kann ich dann über euer Label später auch sehen,
welche KI genau benutzt wurde?
ItsNotAI: Unser Produkt ist bewusst anders herum gebaut: Das Label sagt „nicht mit generativer KI erstellt“. Nach außen kommunizieren wir nicht: „Das war jetzt Tool X oder Modell Y“. Menschen sollen nur sehen: Ja, dieses Werk wurde ohne generative KI erstellt – dann bekommt es unser It’sNotAI-Label. Oder nein, es wurde generative KI genutzt – dann vergeben wir kein Label.
AGD: Können sich diese Engines auch irren?
ItsNotAI: Das nicht direkt, aber Ergebnisse können zunächst schwammig sein. Nicht immer deuten die Werte klar in Richtung „KI“ oder „nicht KI“. In diesen Graubereichen, also wenn Engines sich widersprechen oder der Wert nicht eindeutig ist, schauen wir uns das Bild manuell an, prüfen Metadaten und ggf. die mitgeschickten Zwischenschritte. Dann entscheiden Expert:innen im Team. Derzeit gehen 100 % der Bilder durch diese menschliche Untersuchung.
AGD: Viele nutzen heute KI als Werkzeug, um Hintergründe zu entfernen oder eine Farbe zu ändern.
Bekommen solche Werke noch ein „It’sNotAI“-Label?
ItsNotAI: Hier unterscheiden wir sehr klar zwischen generativer KI und assistierenden Tools. Am Ende geht es darum, ob KI eingesetzt wird, um eine im Kopf entstandene Vision umzusetzen oder ob der Inhalt z.B. durch „Prompt-to-Image“ dem Zufall der KI Komposition entstammt. Bilder, bei denen KI unterstützen eingesetzt wird, um beispielsweise den Hintergrund zu entfernen oder das Bild zu beschneiden würden unser Label erhalten.
Die für uns entscheidende Frage ist: Kommt die kreative Bildidee von der Person, und nutzt sie KI nur als „Werkzeug im Werkzeugkasten“ oder lässt sie die KI das Bild im Kern selbst entwerfen?
Wie viel Menschlichkeit steckt im Zufall der KI-Komposition? Der Gedanke, der bei ItsNotAI dahintersteckt, ist, dass es eine menschliche Vision eines Werkes gibt, die mithilfe verschiedener Materialien und Tools gestaltet wird. Dass auch in Kunst oft eine große Menge Zufall steckt (man denke an eine Künstlerin, die mit dem Pinsel willkürliche Spritzer und Farbtropfen auf eine Leinwand bringt), wird nicht diskutiert. Zum Thema KI und Kreativität haben wir uns bereits ausgiebig ausgetauscht. Also weiter im Kontext und der Zukunft der Labels.
AGD: Was bringt mir und der Branche dieses Label?
Welche Möglichkeiten seht ihr?
ItsNotAI: Für einzelne Kreative ist es eine sichtbare Kennzeichnung: „Dieses Werk ist ohne generative KI entstanden.“ Das hilft z.B. Illustrator:innen, Concept Artists oder Fotograf:innen, die sich bewusst von KI-Content abgrenzen wollen. Es soll zu einer ähnlichen Konnotation kommen wie bei „handgemacht“ im Vergleich zur Massenware. Rein menschliche Kreation künstlerischer Werke soll den Stellenwert erlangen, die sie verdient. Wir verurteilen den Einsatz von KI aber keineswegs und arbeiten auch mit Künstler:innen zusammen, die ihre digitale Kunst mit KI erstellen. Auch sie finden den Ansatz interessant, fühlen sich davon aber auch nicht auf die Füße getreten.
Gedacht ist ItsNotAI vor allem für die Kunstwelt. Das Label soll menschliche Werke aus der KI-generierten Masse abheben, „echtes“ Handwerk und Talent wertschätzen. Doch die digitale Kunstszene scheint gespalten: Einerseits gibt es ein deutliches Bedürfnis nach Abgrenzung und Wertschätzung nicht-KI-basierter digitaler Kunst, andererseits gibt es Künstler:innen, die KI bewusst als künstlerisches Werkzeug und Zukunft der Kunst verstehen und entsprechend offen dafür sind. Das It’sNotAI-Label wird als sinnvolles Transparenz- und Qualitätsmerkmal für nicht-KI-Werke diskutiert, stößt aber auch auf grundsätzliche Fragen nach Authentizität und der Rolle von KI in der Kunst.
Doch für uns öffnet das Start Up ganz andere Türen. Wir sehen Potenzial für gezieltere Gegenmaßnahmen bei KI-generierten Falschmeldungen gerade im journalistischen Bereich. Ebenfalls könnte die Software interessant für Verwertungsgesellschaften sein, wenn diese künftig unterscheiden müssen, ob eingereichte Werke KI-generiert sind oder nicht. Das Label kann dabei helfen, diese Trennung nachvollziehbar zu machen.
Am Ende steht das Statement von ItsNotAI ganz klar: „Unser Ziel ist, ein Transparenz-Tool zu sein, das menschliche Arbeit sichtbar macht. Nicht eine Anti-KI-Kampagne zu starten.“