Künstliche Intelligenz, Sprache und die Frage der gesellschaftlichen Verantwortung „Eine erzählende KI ist immer nur so gut, wie die Texte, von denen sie lernt bzw. so gut wie die Leute, die sie damit füttern.“ Michael Keusgen, CEO Ella Media AG
Dass eine KI in der Lage sein kann, vernünftige Texte für Werbung und Redaktion zu schreiben, ist nicht nur Fachleuten bekannt. Auf KI basierende Maschinen, die man mit entsprechenden Fakten füttert, die sich mittlerweile selbstständig mit Informationen aus seriösen Quellen bedienen, unterstützen sowohl Kreative in Agenturen und im E-Commerce als auch Redakteure und Journalisten. Doch wie ist es mit der Kür des Schreibens – der Fiction? Kann sich eine KI eine eigene Geschichte ausdenken und diese dann aufschreiben? So wie ein menschlicher Autor?
Es geht. Dahinter steckt aber viel Arbeit. Ein Team von Experten aus den Bereichen Data Analytics, Machine Learning, Software-Engineering und Linguistik trainiert seit gut vier Jahren für die ella media ag eine KI, die selbstständig fiktionale Texte schreibt. Das Ergebnis, oder besser gesagt, der Stand der Entwicklung, kann sich lesen lassen. Hier ein Beispiel:
Verträumt blickst du aus dem frisch geputzten Fenster auf das grüne und friedliche Tal. Zu deiner Rechten siehst du den Rand eines großen Meers aus Gras mit Wellen, die gegen das Ufer rollen. Eine kleine Pyramide aus weißen Blumen steht hoch und stolz in diesem Meer und du lächelst. Du vermisst, wie das Gras in deiner Heimatstadt so süß und voller Leben riechen konnte. Selbst diese süß duftenden Blumen können sich nicht mit dem Geruch dieses einfachen Ortes messen.
Du seufzt und blätterst die Seite deines Romans um. Es ist fast 5 Jahre her, seit du in dieses Haus kamst. Das Haus selbst ist alt mit verblichener blauer Farbe und rissigen roten Ziegelsteinen, eines der einzig guten Dinge an diesem Ort. Du fühlst dich nicht traurig oder einsam, nein, du bist hier nie einsam, es ist dir egal, noch würdest du jemals versuchen, dich von diesem Gefühl zu befreien. Du hast dein eigenes Zimmer mit einem kleinen Bett für zwei Personen mit einer der alten Decken, die an der Tür hängen. Du kannst hier schlafen, wenn du in deinem neuen Leben bleibst. Manchmal ist es Nacht, wenn du von der Arbeit kommst und hier bleibst.
Du hast einen kleinen Koffer bereit und gepackt und bringst ihn ins Schlafzimmer. Es gibt eine kleine Küche und ein Wohnzimmer. Es sind nur drei kleine Räume und sie sind hauptsächlich mit Büchern und Kleidung gefüllt. Du stellst deinen Koffer auf den Boden neben dem Bett und legst deine Bücher und den Koffer darauf.
Du drehst dich wieder zum Fenster und atmest tief ein. Du beobachtest eine kleine Wolke, die sich ihren Weg über den Himmel bahnt und sich links von der Sonne befindet. Sie bahnt sich mit einem kleinen Windstoß langsam ihren Weg über den Himmel.
Du kümmerst dich nicht um den Lärm der Stadt oder die Menschen, die auf der Straße laufen. Du kannst hier allein sein, und du lebst einmal in deinem Leben. Die Brise streichelt dein Gesicht und deine Arme und es riecht nach Erde. Du schließt die Augen und atmest tief ein. Du denkst dir: Das ist Freiheit.
Wie diese Geschichte weiter gehen wird, kann man in diesem Moment noch nicht sagen. Wie die Geschichte der ella media ag weiter geht – auch nicht. Aber – sie wird weitergehen!
Verfasst am 5. Oktober 2021
Michael Keusgen wird auf dem Handelsblatt KI Summit eine Keynote-Speech halten. Am 1. Oktober 2021 spricht er vor dem Fachpublikum der Veranstaltung zur Frage, wie KI das Schreiben revolutionieren wird.
Der Gründer und CEO der Ella Media AG erläutert in seinem Vortrag, wie das Zusammenspiel zwischen Menschen und Maschinen beim Erstellen von Texten in der Praxis funktioniert und welche Rolle Kreativität dabei spielt. Besonders spannend wird seine Einschätzung zu ethischen Fragestellungen bei der Entwicklung und beim Einsatz von Sprach-KI.
Im Rahmen eines weiteren Programmpunkts wird Michael Keusgen von den Moderatoren des KI Summits live über seine Eindrücke und Erkenntnisse aus der Veranstaltung interviewt.
CH-Zug, 27. September 2021
Autor: Michael Keusgen, CEO, Ella Media AG
Systeme, die auf Künstlicher Intelligenz (KI) basieren, haben in der Regel das Ziel, Menschen in ihren Handlungen zu unterstützen. Dabei eröffnen KI-Systeme neue Möglichkeiten, um Fehler zu minimieren, Prozesse effizienter zu gestalten und bestehende Probleme zu bearbeiten. Die Entwicklung der Künstlichen Intelligenz hat dabei das Potential, zunehmend Einfluss auf die Entscheidungen von Menschen zu nehmen. Deshalb ist ein verantwortungsvoller Umgang mit lernenden Systemen wichtig.
KI selbst ist wertfrei, sie erfasst, analysiert und verarbeitet Sprache ausschließlich auf Basis der Daten, mit denen sie trainiert wurde. Dabei gibt KI bestehende Muster wieder, ohne den Inhalt der eigenen Texte tatsächlich zu verstehen. Das kann unerwünschte Folgen haben, wie beispielsweise die Reproduktion einer stereotypen Darstellung bestimmter Menschengruppen.
Ein bekanntes und gut erforschtes Beispiel ist die Diskriminierung von Frauen in KI-gestützten Bewerbungsprozessen – etwa, weil die Datengrundlage aus einer Zeit stammt, in der in dem spezifischen Berufsfeld fast ausschließlich Männer tätig waren.
Sprachbasierte KI-Systeme sind immer nur so gut wie die Texte, von denen sie lernen. Deshalb müssen Systembetreiber und Entwickler bereits lange vor dem ersten Einsatz einer KI konsequent darauf achten, Verzerrungen und daraus folgende Diskriminierungen (Bias) durch Fehler bei der Datenerfassung und -auswahl oder der Verarbeitung der Daten auf Basis von Algorithmen zu erkennen. Das erfordert eine Werteorientierung und eine hohe Kritik- und Lernfähigkeit der Unternehmen und der Menschen dahinter.
Verantwortungsvoller Umgang mit Sprach-KI bedeutet für Unternehmen aber auch, dass sie bereits bei der Entwicklung einen möglichen Missbrauch der Technologie im Blick haben – etwa durch automatisiert erstellte Texte mit falschen oder absichtlich irreführenden Inhalten. KI-Systeme können darauf ausgerichtet werden, diese verfälschten Informationen in großer Menge und für bestimmte Zielgruppen zu erstellen – auch um den öffentlichen Diskus zu beeinflussen.
Eine kluge und zielorientierte Auswahl der Datenquellen beugt auch Missbrauch vor. Ein redaktionelles KI-System wie Carla, das ausschließlich auf Daten der großen Nachrichtenagenturen basiert, bietet kein Potential für Missbrauch im Rahmen von Desinformationskampagnen.
Zur gesellschaftlichen Verantwortung der Unternehmen gehört aber auch die Frage, wie die KI zum Vorteil der Menschen eingesetzt werden kann. Im Erkennen von unbeabsichtigten Fehlern, Plagiaten, aber auch gezielten Fake News ist die künstliche Intelligenz den Menschen häufig bereits um Längen überlegen. Erste Anwendungen sind bereits im Einsatz. So können spezielle KI-Systeme, in Echtzeit mit Texten und anderen Social Media Daten gefüttert, bei der Bekämpfung von Bots unterstützen.
Verfasst am 8. September 2021
ChatGPT hat in den letzten Monaten für viel Aufmerksamkeit gesorgt. In der Tat ist die Leistung von ChatGPT beeindruckend – und zusammen mit Lösungen wie Midjourney oder Lensa trägt das Tool KI als Instrument bei der Erstellung kreativer Inhalte in die breite Öffentlichkeit.
ChatGPT zeigt eindrucksvoll, wie ein gelungenes Design und ein niedrigschwelliger Zugang Menschen dazu bringt, sich der Nutzung von KI zu öffnen – und was damit möglich wird. E-Mails, Bewerbungen, Aufsätze, Programm-Code, Wortspiele: Der Vielseitigkeit von ChatGPT sind kaum Grenzen gesetzt.
💡 Wissen, womit man es zu tun hat
Hinter ChatGPT steht ein Sprachmodell, dessen Qualität alles bisher Bekannte in den Schatten stellt. Es ist als Generalist ausgelegt: ChatGPTs Text Completion setzt auf einer großen Bandbreite von Inhalten in den Trainingsdaten auf. Doch wir müssen uns bewusst sein, dass wir es bei ChatGPT nicht mit qualitätsgesicherten Daten zu tun haben. Das Modell aggregiert sprachgewandten Output aus Wahrscheinlichkeiten und Mustern, die in den breiten Trainingsdaten vorliegen. Faktentreue garantiert es nicht: Nutzer:innen wissen nicht, ob eine Information „erfunden“ wurde oder eine verlässliche Quelle hat. Menschliche Expertise ist gefragt, um mögliche Falschaussagen zu identifizieren.
➡ Wie bei allen Tools müssen Nutzer:innen also auch bei ChatGPT lernen, mit ihm umzugehen und sich seiner Schwächen bewusst zu sein.
Die Sorgfalt bei der Auswahl und Vorbereitung der Trainingsdaten für KI-Modelle ist ein großer Faktor für den Erfolg von Modellen der künstlichen Intelligenz. Große KI-Modelle, die sich ausschließlich auf wahllose Online-Inhalte und Wissen stützen, können falsche, gar katastrophale Ergebnisse liefern, die wiederum von nachfolgenden KI-Modellen als Lerngrundlage verwendet werden können.
Es ist jedoch nahezu unmöglich, bei der großen Datenmenge für Large Language Models alle Falschinformationen herauszufiltern. Auch korrekte Trainingsdaten können mit der Zeit veralten oder in einem falschen Kontext zu falschen Ergebnissen führen. Daher ist neben der Sicherstellung der Nutzung von genauen und vertrauenswürdigen Daten, eine sorgfältige Überprüfung der Outputs und ein Postprocessing wichtig. Durch eine gesicherte Faktizität über die gesamte Pipeline hinweg, kann dieser Kreislauf von Fehlern, die sich im Laufe der Zeit potenzieren und verfestigen können, durchbrochen werden.
Ellas generative KI-Forschung und – Entwicklung zeichnet sich durch hohe Ansprüche und Standards aus, die an die Qualität von Input und Output gestellt werden. Wir bewerten die Fähigkeiten und verifizieren die Leistung unserer Sprachmodelle durch unsere spezielle TextQA, die von einem Team von Sprachexperten durchgeführt wird, die eng mit unseren Teams für maschinelles Lernen und Data Science zusammenarbeiten. So stellen wir sicher, dass unsere Kunden und Nutzer von einer marktführenden Sorgfalt profitieren.
Setzen Sie auf die Qualitätsstandards von Ella.