Data Markets 06- Mercados de datos, sesgos y discriminación algorítmica

Una de las grandes utilidades de los mercados de datos es la oferta de grandes paquetes de datos, en bruto o procesados, que pueden ser útiles a diversos actores de mercado para el diseño e implementación de su actividad de negocio a través de la elaboración de perfiles predictivos basados en la analítica de dichos datos. Pensemos, por ejemplo, en paquetes de datos comportamentales orientados a elaborar campañas más efectivas de publicidad personalizada.

El perfilado basado en analítica de grandes cantidades de datos comporta una serie de riesgos, entre los que destaca especialmente la producción de sesgos derivados de la mala calidad de los datos o, también, de la ausencia de factores correctores de sesgos sociales reales, que se ven fortalecidos al venir amparados por algoritmos.

En este programa hablaremos con Guillermo Lazcos sobre los tipos de sesgos que pueden producirse en la analítica de datos (estadístico, ético y jurídico) de la mano de ejemplos en el campo de la medicina (fundamentalmente en radiología y dermatología por el momento), el Derecho de consumo (personalización de precios, derecho de seguros, estudios de solvencia) o la Seguridad Social (caso SyRI, en Holanda); y cómo responde la normativa a estos riesgos. Nos fijaremos sobre todo en el artículo 22 del Reglamento General de Protección de Datos, que obliga a la supervisión humana de decisiones automatizadas; y en la Propuesta de Reglamento de Inteligencia Artificial, que sigue siendo objeto de debate en la UE si bien se espera que pronto se apruebe la versión definitiva.