Daten sind das neue Gold der digitalen Welt. So sagt man. Doch was in der digitalen Welt noch richtig war, kann in einer Welt voller KI ganz anders aussehen.
Woher kommen die Daten? Wie wurden sie erzeugt? Wie frisch sind sie? Und vor allem: Sind sie überhaupt noch „echt/ Human“?
Mit dem Siegeszug generativer KI verändert sich nicht nur, wie wir Daten analysieren und aufbereiten. Es verändert sich zunehmend auch, wie Daten entstehen. Alle die regelmäßig in den großen Social Networks unterwegs sind, wissen das nur allzugut.
Und genau das könnte zu einem erheblichen Problem werden.
Wenn KI zunehmend von KI lernt
Mittlerweile taucht der Begriff Model Collapse immer häufiger in den Medien auf. Darunter ist eine Art Zusammenbruch der KI Modelle zu verstehen, der durch einen degenerativen Rückkoppelungskreislauf verursacht werden kann, basierend auf synthetischen Daten, die ihren Weg immer häufiger in die Trainings Sets finden. Also vereinfacht gesagt: KI lernt zunehmend häufiger auf KI generiertem Schrott.
Immer mehr Inhalte werden nicht mehr von Menschen erstellt, sondern von KI-Systemen, Bots und Algorithmen. Texte, Bilder, Kommentare, Bewertungen und teilweise sogar ganze Webseiten können heute automatisiert produziert werden. Der KI Content nimmt überhand und damit auch in den Trainingsdaten-Sets. Noch salopper formuliert: es entsteht eine Art Daten-Inzest.
Noch ist dieser Collaps nicht bei uns angekommen, wenngleich man auch diesen in verschiedene Phasen unterteilt. Was aber bereits heute bei uns ankommt, sind tatsächliche Auswirkungen der KI Content Flut - auch in unserem täglichen HR Doing.
Wie viele Menschen sitzen eigentlich noch in meinem Sample?
Nehmen wir etwas sehr Alltägliches: Online-Befragungen.
Unternehmen, Institute und Marktforscher_innen führen heute einen großen Teil ihrer Befragungen digital durch. Das ist schnell, effizient und skalierbar. Gerade in unserem Segment - der Arbeitswelt - ist davon auszugehen, dass alle Personen, die am Arbeitsleben teilhaben bzw. sich gerade darauf vorbereiten, Zugang zu Internet haben.
Doch genau diese Vorteile machen Online-Befragungen auch für automatisierte Systeme interessant.
Bots können Fragebögen ausfüllen. KI kann offene Fragen beantworten. Automatisierte Systeme können menschliches Antwortverhalten simulieren. Die Simulationen sind mittlerweile derart gut, dass Identifizierung der synthetischen Fälle alles andere als trivial geworden ist.
Je nach Rekrutierungsweg (Studienteilnehmende), Incentivierung, Befragungsumgebung und vorhandenen Schutzmechanismen kann das zu einem ernsthaften Qualitätsproblem führen.
Und damit bekommt eine eigentlich banale Frage plötzlich enorme Bedeutung:
Hat meine Befragung wirklich Menschen befragt?
Denn wenn ich meine Unternehmensentscheidungen auf diesen Daten aufbaue, reicht es zukünftig nicht mehr, nur auf Stichprobengröße, Signifikanz und Methodik zu schauen.
Ich muss zusätzlich wissen, woher meine Daten kommen und wie sichergestellt wurde, dass sie menschlichen Ursprungs sind.
Der Xerox-Scan-Skandal von 2013
Vielleicht braucht es deshalb zukünftig so etwas wie eine Bio-Zertifizierung für Daten. Herkunft und Erstellung der Daten wären eindeutig ersichtlich.
Unternehmen, die seit Jahren Daten basierte Entscheidungen treffen, müssen diese neue Gefahr einmal beleuchten. Es erinnert etwas an den Xerox-Scan-Skandal aus dem Jahre 2013. Damals wurden Zahlen auf Dokumenten durch den Scan verändert. So wurden vom Scanner beispielsweise 6 und 8 vertauscht. Sind Dokumente im Rahmen einer Digitalisierung gescannt worden, um die Originale zu vernichten, war ein nachvollziehen der Fehler kaum noch möglich.
Mit dieser neuen Perspektive werden zukünftig folgende Begriffe entscheidend und leicht erweitert werden:
Clean Data und Fresh Data.
Dabei meint Clean Data, dass eben eine entsprechende Bereinigung der Daten stattgefunden hat und man sich sicher sein kann, dass der Datensatz sich so zusammengestellt hat, wie es vorgegeben wurde.
Der Begriff Fresh Data zielt stärker auf die Aktualität der Daten ab und im neuen Zusammenhang natürlich mit Fokus auf Daten deren Ursprung menschlich sein sollte, wie es beispielsweise bei Umfragen der Fall ist. Hier spielt das Thema neuer Input vor allem für Modelle eine große Rolle.
Aus Big Data könnte Fresh Data werden
In den vergangenen Jahren war eine zentrale Logik der Datenökonomie: mehr Daten sind besser.
Alle sprachen von Big Data.
Möglichst große Datenmengen sammeln, miteinander verbinden und analysieren.
Vielleicht verändert sich diese Logik gerade.
Denn was bringen mir zehn Millionen Datenpunkte, wenn ich nicht mehr zuverlässig beurteilen kann, wie viele davon synthetisch erzeugt, reproduziert oder durch automatisierte Systeme beeinflusst wurden?
Dann könnten 10.000 verifizierte, aktuelle und tatsächlich von Menschen erzeugte Datenpunkte plötzlich wertvoller sein als Millionen Datensätze unbekannter Herkunft.
Die entscheidende Frage wäre dann nicht mehr ausschließlich:
Wie viele Daten hat das Unternehmen?
Sondern:
Wo kommen die Daten eigentlich her?
Gerade für HR oder auch Marketing Bereiche wird das relevant
Auch HR arbeitet zunehmend datenbasiert.
Moderne Personalabteilungen analysieren Arbeitsmärkte, Zielgruppen, Arbeitgeberpräferenzen, Bewerbungsverhalten, Skills, Gehälter sowie Wechselbereitschaften und vieles mehr. Daraus entstehen Strategien für die Personalentwicklung, Talent Acquisition, Personalplanung verbunden teilweise mit erheblichen Investitionsentscheidungen.
Eine Ausnahme könnten internen Mitarbeiterbefragungen bilden, bei denen das Bot Thema deutlich geringer ausfallen sollte. Sobald allerdings die Außenwelt betrachtet wird, verändert sich die Situation.
Arbeitsmarktstudien, Zielgruppenbefragungen, Produktmarktforschung, Online-Panels oder frei zugängliche Befragungen müssen zunehmend eine zusätzliche Frage beantworten:
Wie wurde sichergestellt, dass hinter den Antworten echte Menschen stehen?
Besonders interessant wird das bei incentivierten Befragungen. Sobald für die Teilnahme Geld, Gutscheine oder andere Vorteile angeboten werden, entsteht naturgemäß ein wirtschaftlicher Anreiz, Teilnahmeprozesse zu automatisieren.
Das macht Fraud Detection und Bot-Abwehr vom technischen Detail zu einem Teil der Forschungsmethodik.
Willkommen in der neuen Realität
Wir haben uns über Jahre daran gewöhnt, Daten als grundsätzlich objektive Grundlage für Entscheidungen zu betrachten.
Das war schon immer nur bedingt richtig. Doch durch generative KI kommt nun eine neue Dimension hinzu.
Wir müssen nicht nur fragen, was die Daten sagen.
Wir müssen zuvor fragen:
- Woher stammen sie?
- Sind sie originär oder synthetisch?
- Stehen hinter den Antworten tatsächlich Menschen?
- Welche Mechanismen verhindern KI Bots und automatisierte Teilnahme?
Wir stehen damit vor einem Paradigmenwechsel: Der Datenschatzt ist nur noch wertvoll, wenn er auch Clean & Fresh ist.
