Science-Fiction ist voller erschreckender „Was-wäre-wenn“-Berichte über den Aufstieg der künstlichen Intelligenz, aber ein alarmierendes Szenario spielt sich bereits in Schulen in ganz Amerika ab.
Laut der technologieorientierten Website Motherboard von Vice Media verlassen sich derzeit mindestens 21 US-Bundesstaaten auf automatisierte Systeme, um Schüleraufsätze in bestimmten standardisierten Tests zu bewerten.
Nur in drei dieser Staaten muss jeder Test auch von einem Menschen bewertet werden; der Rest wählt nach dem Zufallsprinzip Tests zur Bestätigung durch den Menschen aus. Die Systeme sind so programmiert, dass sie Noten anhand von Mustern bestimmen, nicht indem sie tatsächlich verstehen, was sie „lesen“.
Wenn ein Aufsatz zu einem Muster passt, das in früheren erfolgreichen Aufsätzen gefunden wurde, erhält er eine gute Note. Computerlinguistik Prof. Emily Bender von der University of Washington sagt, dass der Fehler zunehmen wird, wenn sich nichts ändert, und es dazu führen wird, dass bestimmte sprachliche und demografische Gruppen gegenüber anderen bevorzugt werden.
„Das Problem ist, dass Voreingenommenheit eine andere Art von Muster ist, und diese Systeme des maschinellen Lernens werden es auch aufgreifen. Und diese maschinellen Lernprogramme werden nicht nur Verzerrungen in den Trainingssätzen aufnehmen, sondern sie verstärken.“
In einem Test reichte Motherboard unsinnige Essays ein, die mit anspruchsvollem Vokabular geschrieben wurden. Sie haben bestanden.
Die Wahrheit über künstliche Intelligenz:
Es wird erwartet, dass der Markt für künstliche Intelligenz (KI) bis zum Jahr 60 auf etwa 2025 Milliarden US-Dollar geschätzt wird.
Einige Experten sagen voraus, dass KI bis zum Jahr 2060 fast alle menschlichen Aufgaben bewältigen kann.
Amazon verlässt sich bei vielen Empfehlungen an die Kunden auf KI, sogar bei der Entscheidung, wann bestimmte Angebote angeboten werden.