Si tienes un smartphone o te conectas a Internet de forma regular, aceptas cookies, te descargas aplicaciones, te registras en sitios web… Entonces ya formas parte de los miles de millones de personas en todo el mundo que experimentan la interacción hombre-máquina, en su mayoría sin ser realmente conscientes de sus implicaciones. ¿Qué significa esa interacción? ¿Cómo afecta dicha relación a nuestra toma de decisiones y comportamiento? ¿Cómo funciona el machine learning? A estas y otras preguntas dimos respuesta ayer en la primera sesión del Club de Desarrollo Personal y Liderazgo de la temporada.
“¿Quién ha utilizado algún tipo de aplicación o sistema informático para aprender idiomas?”, preguntó Manuel Gómez, investigador del Max Planck Institute for Software de Alemania encargado de impartir este taller. “Estas plataformas utilizan el machine learning para optimizar los contenidos formativos, acelerando así los mismos tiempos de aprendizaje. Detrás de ello es dónde encontramos la pura interacción algoritmo – humano”, explicó.
También es muy útil para la medicina. “No se trata de sustituir a los médicos, si no de encontrar formas de ayudar a hacer su trabajo” de forma más eficiente, en este caso, reduciendo por ejemplo ciertos errores en diagnósticos, operaciones, etc.
¿No sería de gran utilidad que una máquina escanease los miles de folios que suelen componer las historias clínicas para extraer “solo” la información relevante que necesitan los facultativos para tomar sus decisiones?
“¿O que una máquina fuese capaz de examinar una radiografía e indicar al médico aquellas partes en las que debería prestar atención?”, planteaba Manuel en su introducción. En principio, ¿por qué no? Pero las virtudes de las máquinas inteligentes encierra, según qué campo de aplicación y uso, ciertas controversias.
Una de esas áreas en los que la ética se presenta como regulador de uso es en el ámbito de la justicia. Y como no hay mejor forma de tomar conciencia de las cosas que experimentar en primera persona, los asistentes al Club se convirtieron en jueces por un instante.
El objetivo era descubrir y generar cierta reflexión sobre el funcionamiento del machine learning, y en qué, cómo y hasta qué punto puede ayudar en el día a día de las personas, profesionales y organizaciones.
En la piel del juez
Se plantearon tres diferentes casos, reales, utilizados en las investigaciones sobre machine learning y su impacto en la toma de decisiones humanas en Estados Unidos. En cada uno de ellos les facilitamos a los asistentes una serie de datos básicos sobre el caso en cuestión: género, edad, delito por el cual se inculpa a esa persona e información sobre sus (no) antecedentes penales.
Una vez presentada la ficha policial, los asistentes tenían que “predecir” si esa persona cometería un delito en los próximos dos años y cómo de seguros, o inseguros, estaban tras decantarse por el Sí o por el No.
Compas, que así se llama la máquina que usan los jueces en Estados Unidos, extrae sus propias conclusiones (predicciones), las cuales se mostraron en cada caso. “Ahora que sabes qué predice la máquina, ¿cambiarías tu opinión sobre si esa persona reincidirá o no? ¿Cómo de seguro te sientes ahora que sabes qué dictamina Compas?”, preguntó Manuel.
Y tras la dinámica de los jueces abrimos debate. “Compas usa una serie de variables (historial criminal, contexto social, educación, etc.) que cruza con una serie de parámetros como la relevancia, la fiabilidad, la pertenecía a grupo minoritario, etc. para realizar sus predicciones con un margen de acierto del 70%”, explicaba Manuel. ¿Es adecuado o inadecuado? ¿Se deshumaniza de este modo la justicia o se están generando mecanismo que la agilicen? ¿Y si se asignaran casos de forma no aleatoria a los jueces para evitar discriminaciones? Estas y otras cuestiones morales fueron foco del animado debate con el que cerramos esta nueva sesión de nuestro CDPL.
A continuación, te dejamos un extracto de la entrevista que hicimos a nuestro invitado a este CDPL:
Si eres miembro Blue red o Innova&acción, recuerda acceder a la Know- Box para ver la entrevista completa y acceder a la presentación de la sesión.
