Ausgelöst durch eine sehr emotionale Diskussion über die rechtlichen Aspekte von KI-Bildern, bin ich mir erst der Bedeutung bewusst geworden, die verschiedene Leute der KI geben und auch den Mythen und Unklarheiten, wenn nicht sogar Unwahrheiten, die hierzu in den Köpfen der Leute herrschen. Deshalb wollte ich den Zeitpunkt zum Anlass nehmen, mich allgemein über die Problematik KI auszutauschen und Euch meine Sicht der Dinge hierzu mitzuteilen.

Meine Absicht ist es nicht, irgend jemandem nun auf diesem Wege zu einem Verbot der KI zu bewegen, aber ich möchte doch einige Aspekte beleuchten, die man meistens nicht bedenkt, wenn es um KI geht, das, was sie kann, aber auch was sie als Nebenwirkungen mit sich bringt.

Ich bin absolut kein Gegner von KI. Früher war ich sogar ein sehr großer Anhänger davon und begeistert vom Potential dieser Techniken. Ich habe 1991 mein Ingenieur Diplom in Informatik abgeschlossen mit dem Schwerpunkt Wissensbasierte Systeme, also KI.

Damals waren die technischen Voraussetzungen aber noch nicht gegeben, weder die benötigte Rechenleistung noch die enormen Datenspeicher waren da, um eine Entwicklung und Verbreitung von KI-Techniken zu fördern. Heute ist dies alles da, und die Techniken, die es im Prinzip schon damals gab, finden ihre volle Anwendung.

Noch immer fasziniert und begeistert mich KI, vor allem in spezialisierten Anwendungsgebieten wie Medizin, aber auch im Bereich der automatischen Übersetzung – ich bin ein absoluter Fan von DeepL.

Da wo ich die aktuelle Verwendung von KI kritischer sehe ist im Bereich der Gen-AI, generative AI und “general purpose” AI.

Im Bereich der Sprache und Textgenerierung ist hier zu bedenken, dass noch immer das Prinzip “Garbage in – garbage out” gilt. Die KI kann ihre Antwort nur aus den Texten heraus zusammenstellen, die sie zu ihrer Verfügung hat. Sind die Quellen unvollständig oder voreingenommen, so wird auch ihre Antwort nicht komplett und nicht ausgewogen sein. Außerdem haben heutige KI Systeme die Tendenz zu halluzinieren, wenn die vorliegenden Informationen ihnen kein Material für eine schlüssige Antwort geben, eine KI kann in dem Fall durchaus “Bullshit” “erfinden”. Die KI also zu einem Thema zu befragen und dann ihre Antwort als einzig wahre und vollständige Antwort anzusehen, ist ein Fehler. Wenn man so etwas also machen will, sollte man zumindest versuchen die Quellen zu überprüfen, respektiv die Antwort mit eigner Recherche zu verifizieren. Ich selbst benutze solche KIs, wie typischerweise ChatGPT, in Fällen wo ich mir schnell einen Text generieren lassen will, in einem Gebiet das ich aber beherrsche und wo ich das Resultat der Anfrage dann mit meinem Wissensstand und Wissen überarbeiten und vervollständigen kann.

Was nun die Bilder angeht, ist die Frage ja weniger ob die Bilder “richtig” und komplett sind, und eigentlich könnte man meinen, somit gibt es hier keine Bedenken.

Allerdings gibt es einerseits den rechtlichen Aspekt. Um Bilder zu generieren, brauchen KIs andere Bilder, Unmengen von anderen Bildern, und somit werden, unter anderen Quellen, zugängliche Quellen abgegrast und Bildmaterial wird gesammelt, ohne die Besitzer der Bilder um Erlaubnis zu fragen. Wenn solche Bots auf unsere ipernity Datenbanken Zugriff haben können, geschieht das auch mit unseren Bildern. Das Problem ist nun, das anhand dieser Bilder von der KI neue Bilder generiert werden, denn die KI hat ja keine eigene Fantasie oder schöpferische Gabe. Wenn jemand ein solches Bild veröffentlicht, ist es ein Plagiat vieler anderer Bilder, und genau hier ist der Punkt der problematisch ist und potentiell auch ein (finanzielles) Risiko für Ipernity werden kann sollte es zu einem Rechtstreit kommen. Rechtlich gesehen liegt hier noch vieles in einer Grauzone, deshalb sollte man diesen Punkt nicht aus den Augen verlieren.

Es bestehen noch andere, ethische und moralische Probleme, bei KI Bildgenerierung.

Eine dieser Problematiken war mir bis vor wenigen Wochen überhaupt nicht bewusst, ich habe bei einem Vortrag auf der Arbeit davon erfahren, über den Dokumentarfilm “les sacrifiés de l’IA” (https://www.franceinfo.fr/replay-radio/info-medias/les-sacrifies-de-l-ia-dans-son-documentaire-henri-poulain-revele-les-coulisses-d-une-industrie-qui-exploite-la-misere-humaine_7038260.html) Der Film, sowie die verschiedenen Links die ich dazu gefunden habe, ist in Französisch, ich weiß nicht ob es den Film in anderen Sprachen gibt. Falls es Euch möglich ist, seht Euch die Dokumentation an, sie ist absolut sehenswert.

In dem Film deckt der Filmemacher die Arbeitsbedingungen von Menschen in wenig favorisierten Ländern in Afrika auf, die für die großen Firmen der KI arbeiten. Ihr Job ist es jeden Tag 8 oder 10 Stunden lang, Bilder zu sichten, um sie für die KI Systeme des jeweiligen Unternehmens zu klassifizieren. Grob gesagt, weiß eine KI ja erstmal nicht was eine Katze oder ein Haus ist, und so besteht die Arbeit dieser Leute von morgens bis abends daraus, sich Bilder anzuschauen, die Bilder und die Dinge die darauf dargestellt sind zu klassifizieren, damit die KIs aus diesen ganzen Angaben lernen können, selbst Sachen zu erkennen und Bilder richtig einzuordnen.

An und für sich ist hieran nichts Verwerfliches, die Leute haben eine Arbeit und sie werden dafür bezahlt. Aber, einerseits sind die Arbeitsbedingungen sehr schlecht und sie werden regelrecht ausgebeutet: schlechte Bezahlung, unmenschliche Arbeitszeiten, ebenso schlechte Arbeitsplätze.

Der andere Aspekt ist noch bedenklicher. Eine KI hat keine Moral, deshalb muss man ihr auch beibringen, welche Bilder für Menschen moralisch inakzeptabel und verwerflich sind Und so müssen diese Arbeiter der KI sich auch stunden-, tage und wochenlang schlimmstes Bildmaterial, mit Gewaltverherrlichung, Morden, sexueller Gewalt und sexueller Gewalt an Kindern anschauen, um sie für die lernenden KIs zu klassifizieren. Im Dokumentarfilm werden Interviews mit Menschen gezeigt, die diese Arbeit tun müssen und die dadurch schwere psychologische Traumata erlitten haben, ohne irgendwelche psychologische Unterstützung oder Hilfe zur Verarbeitung zu erhalten.

Ein weiterer Aspekt sind die Ressourcen, enorme Mengen an Energie und Wasser, die aufgebracht werden müssen, um die Rechner und Datenspeicher, die von der KI-Industrie gebraucht werden, zu betreiben – und das in einer Welt, wo diese Ressourcen an anderen Ecken bitter fehlen.

Ich will die KI nicht verteufeln, aber zumindest sollte man sich auch dieser Fakten einmal bewusst sein, bevor man sich über den KI-Prompt das hundertste Bild von einem niedlichen Kätzchen oder der hübschen Fee oder dem drolligen Einhorn generieren lässt.

Ich wollte der ipernity Gemeinschaft diese Punkte aufzeigen, um Euch zumindest dafür zu sensibilisieren, dass KI auch ihre Schattenseiten hat und ich nicht glaube, dass man diese vollkommen ignorieren kann oder soll.