Einer neuen Studie zufolge können sich die Menschen bereits nach einer Woche nicht mehr zuverlässig daran erinnern, ob sie künstliche Intelligenz zur Textgenerierung eingesetzt haben.
Eine Studie, die an der Universität Bayreuth in Deutschland und der Aalto-Universität Helsinki in Finnland durchgeführt wurde, gibt Anlass zur Sorge, dass Studierende, Mitarbeiter und Autoren unwissentlich KI-generierte Texte als ihre eigenen Originalwerke und Ideen ausgeben könnten.
Die Studie ergab, dass es unwahrscheinlich ist, genaue Ergebnisse zu erzielen, wenn man Menschen im Nachhinein bittet, sich an die Beteiligung von KI an der Erstellung von Inhalten zu erinnern, da die Wahrscheinlichkeit einer korrekten Erinnerung innerhalb von sieben Tagen stark abnimmt.
«Workflows, die menschliche und künstliche Intelligenz kombinierten, waren besonders fehleranfällig – also dann, wenn eine Idee von der KI kam und die Formulierung von einem Menschen durchgeführt wurde, und umgekehrt», sagte Daniel Buschek, Professor für mobile Benutzerschnittstellen an der Universität Bayreuth.
Wenn ein Mensch eine Idee präsentierte, die ursprünglich von einer KI generiert worden war, sank die Wahrscheinlichkeit, sich korrekt an den Ursprung des Inhalts zu erinnern, nach sieben Tagen auf 37,7%.
Umgekehrt lag die Wahrscheinlichkeit, dass eine KI, die eine menschliche Idee schriftlich festhielt, diese Idee eine Woche später korrekt als ihre eigene identifizierte, bei 64%.
Zwei Risiken im Zusammenhang mit Gedächtnislücken bezüglich des Einsatzes von KI.
Auf Grundlage der gewonnenen Daten identifizierten die Forscher zwei Risiken, die sich aus Gedächtnislücken bei der Nutzung von KI ergeben:
-
Menschen können von künstlicher Intelligenz generierte Ideen und Texte als ihre eigenen ausgeben.
-
Umgekehrt unterschätzen Menschen möglicherweise ihren eigenen Beitrag und verwechseln ihre Idee mit einer von KI generierten.
Die Forscher argumentieren, dass es unrealistisch sei, sich beim Erinnern an den Einsatz von KI auf das menschliche Gedächtnis zu verlassen, und schlagen einen praktischeren Ansatz vor: die Dokumentation der Inhaltserstellung von Anfang an.
Eine im April veröffentlichte Studie umfasste 184 Personen, die an einem Experiment teilnahmen, in dem sie Texte mit oder ohne Hilfe künstlicher Intelligenz verfassen sollten. Eine Woche später wurden sie zu den Quellen ihrer Ideen und ihrer Vorgehensweise beim Schreiben der Texte befragt.