La ciencia ficción está llena de terroríficos relatos hipotéticos sobre el auge de la inteligencia artificial, pero un escenario alarmante ya se está desarrollando en las escuelas de todo Estados Unidos.
Según el sitio web Motherboard de Vice Media, que se centra en la tecnología, al menos 21 estados de EE. UU. Actualmente dependen de sistemas automatizados para calificar los ensayos de los estudiantes en ciertas pruebas estandarizadas.
Solo tres de esos estados también requieren que un humano califique cada prueba; el resto selecciona pruebas al azar para confirmación humana. Los sistemas están programados para determinar las calificaciones por patrones, no entendiendo realmente lo que están «leyendo».
Si un ensayo se ajusta a un patrón encontrado en ensayos exitosos anteriores, obtiene una buena calificación. La profesora de lingüística computacional Emily Bender de la Universidad de Washington dice que, a menos que algo cambie, la falla crecerá y conducirá a que ciertos grupos lingüísticos y demográficos se vean favorecidos sobre otros.
“El problema es que el sesgo es otro tipo de patrón, por lo que estos sistemas de aprendizaje automático también lo van a detectar. Y estos programas de aprendizaje automático no solo detectarán el sesgo en los conjuntos de entrenamiento, sino que lo amplificarán «.
En una prueba, Motherboard presentó ensayos sin sentido escritos con un vocabulario sofisticado. Ellos pasaron.
La verdad sobre la inteligencia artificial:
Se espera que el mercado de la inteligencia artificial (IA) esté valorado en aproximadamente $ 60 mil millones de dólares para el año 2025.
Algunos expertos predicen que la IA podrá manejar casi todas las tareas humanas para el año 2060.
Amazon confía en la inteligencia artificial para muchas de las recomendaciones que hace a los clientes, incluso para decidir cuándo ofrecer ciertas ofertas.