Esta semana, en clase de Tecnología, realizamos una presentación muy interesante y actual: "La Inteligencia Artificial y sus sesgos e injusticias". El objetivo era analizar cómo la IA, a pesar de su enorme potencial, también puede cometer errores o actuar de manera injusta si no se diseña y entrena correctamente.
¿Qué es la IA y por qué es importante?
Comenzamos explicando qué es la Inteligencia Artificial: un conjunto de sistemas informáticos capaces de aprender, razonar y tomar decisiones. Desde asistentes virtuales hasta sistemas médicos o algoritmos de recomendación, la IA ya forma parte de nuestras vidas. Pero lo que muchos no saben es que también puede discriminar o ser injusta.
Los sesgos en la IA
Uno de los puntos más impactantes de nuestra presentación fue mostrar ejemplos reales de sesgos en la IA. Por ejemplo:
Reconocimiento facial que tiene más errores con personas de piel oscura.
Algoritmos de contratación que favorecen a hombres sobre mujeres.
Sistemas de puntuación de riesgo criminal que penalizan injustamente a ciertas minorías.
Explicamos que estos problemas no surgen porque la IA "quiera" ser injusta, sino porque aprende de datos que a veces ya están sesgados. Si los datos de entrenamiento reflejan prejuicios del mundo real, la IA los replica e incluso los amplifica.
¿Qué se puede hacer?
También propusimos soluciones, como:
Usar datos más diversos y representativos.
Evaluar constantemente el funcionamiento de los algoritmos.
Incluir equipos multidisciplinares en el desarrollo de IA (no solo programadores, también sociólogos, filósofos, etc.).
Nuestra experiencia presentando
Preparar esta presentación fue una gran oportunidad para investigar y debatir en grupo. Aprendimos que la tecnología no es neutral y que, si queremos un futuro más justo, debemos ser críticos y responsables con las herramientas que creamos.
Terminamos la presentación con una reflexión: "La IA puede ser una gran aliada, pero solo si se diseña con ética, conciencia y diversidad."
