¿Aumenta la automatización nuestra autonomía? | Sara Degli-Esposti | TEDxAlbacete

Quick Overview

La automatización incrementa nuestra comodidad al asumir tareas tediosas, pero simultáneamente aumenta nuestra dependencia de ella, lo que puede resultar en la pérdida de habilidades y la vulnerabilidad ante fallos sistémicos o sesgos algorítmicos, como demostró el caso de American Airlines con su sistema SABRE, que sesgó los resultados de búsqueda a favor de la compañía.

Key Points: Automatizar tareas cotidianas, como usar escaleras mecánicas o robots aspiradores, genera comodidad, pero conlleva una dependencia creciente. El ponente cuestiona si al automatizar todo lo que hacemos, ganamos autonomía, sugiriendo que la comodidad puede transformarse en dependencia. Un ejemplo histórico es el sistema SABRE de American Airlines (desarrollado en los 60s con IBM), que fue tan exitoso que otras aerolíneas lo adoptaron, pero contenía un sesgo que favorecía a American Airlines en las búsquedas. El sesgo algorítmico en sistemas automatizados, como el de diagnóstico médico o el de la justicia (jueces), afecta la toma de decisiones humanas si no se considera la moralidad y la contextualización. La conclusión principal es que la autonomía moral es lo que define la diferencia entre una máquina automática y una autónoma, y esta autonomía se ve amenazada por la dependencia de sistemas sesgados. Si delegamos tareas tediosas, corremos el riesgo de olvidar cómo hacerlas, lo que nos hace vulnerables cuando el sistema automatizado falla, como ocurrió con el sistema SABRE que dejó de funcionar correctamente. La ponente enfatiza que las decisiones tomadas por sistemas sesgados, incluso si son más eficientes, pueden tener graves consecuencias morales y sociales.

Context: Sara Degli-Esposti, investigadora científica del IFS-CSIC, presenta en TEDxAlbacete una reflexión sobre la relación entre la automatización tecnológica y la autonomía humana. Utiliza ejemplos cotidianos como las escaleras mecánicas y el impacto de la inteligencia artificial en sectores como la medicina y la justicia para ilustrar cómo la comodidad que brindan las máquinas puede erosionar nuestras habilidades y generar dependencia, introduciendo el concepto de sesgo algorítmico como un riesgo moral significativo.