La science-fiction regorge de récits terrifiants de simulations sur l’essor de l’intelligence artificielle, mais un scénario alarmant se joue déjà dans les écoles à travers l’Amérique.
Selon Motherboard, site Web axé sur la technologie de Vice Media, au moins 21 États américains s’appuient actuellement sur des systèmes automatisés pour noter les essais des étudiants sur certains tests standardisés.
Seuls trois de ces états exigent également qu’un humain note chaque test ; les autres sélectionnent au hasard des tests pour confirmation humaine. Les systèmes sont programmés pour déterminer les notes par modèles, pas en comprenant réellement ce qu’ils « lisent ».
Si un essai correspond à un modèle trouvé dans les essais précédents réussis, il obtient une bonne note. Linguistique informatique La professeure Emily Bender de l’Université de Washington affirme qu’à moins que quelque chose ne change, le défaut s’aggravera et conduira à favoriser certains groupes linguistiques et démographiques par rapport à d’autres.
« Le problème est que le biais est un autre type de modèle, et donc ces systèmes d’apprentissage automatique vont également le récupérer. Et non seulement ces programmes d’apprentissage automatique détecteront les biais dans les ensembles de formation, mais ils l’amplifieront. »
Dans un test, Motherboard a soumis des essais absurdes écrits avec un vocabulaire sophistiqué. Ils sont passés.
La vérité sur l’intelligence artificielle :
Le marché de l’intelligence artificielle (IA) devrait être évalué à environ 60 milliards de dollars US d’ici 2025.
Certains experts prédisent que l’IA sera capable de gérer presque toutes les tâches humaines d’ici 2060.
Amazon s’appuie sur l’IA pour la plupart des recommandations qu’il fait aux clients, même pour décider quand proposer certaines offres.