Os Keyes es estudiante de doctorado en la Universidad de Washington y primera Becaria Ada Lovelace Estudia el género, los datos, la tecnología y el control. Tiene un fantástico post esta semana que me hacen pensar: la ciencia de datos necesita orientaciones más matizadas sobre qué se mide y en qué conjunto específico de normas. También presenta Dean SpadeEl término "violencia administrativa"para referirse al modo en que los sistemas administrativos crean categorías estrechas de género y obligan a las personas a entrar en ellas para satisfacer sus necesidades básicas. Se trata de una lectura obligatoria para cualquier responsable de la formulación de políticas y la ética de los datos.

"El mantenimiento rígido de la jerarquía y las normas es realmente para lo que sirve el Estado. Para mí, mi ética del cuidado dice que deberíamos trabajar por una ciencia de datos radical: una ciencia de datos que no sea controladora, eliminadora, asimiladora. Una ciencia de datos basada en permitir el control autónomo de los datos, en permitir formas plurales de ser. Una ciencia de datos que preserve el contexto y no castigue a quienes no participan en el sistema."

"La ciencia de los datos se basa fundamentalmente en adoptar una visión reductora de la humanidad y utilizarla para controlar y estandarizar los caminos que pueden tomar nuestras vidas, y sólo responde a las críticas ampliando el grado en que nos vigila. Así que tal vez una definición más precisa de la ciencia de datos sería: La reducción inhumana de la humanidad a lo que se puede contar.. Y según la lógica estandarizadora de la ciencia de datos, este seguimiento va a ser reductivo: Rastreará sólo las cosas que importan a los que construyen los sistemas, en las formas que sean aceptables para ellos, castigándote cuando te desvíes. Para mí, mi ética del cuidado dice que deberíamos trabajar por una ciencia de datos radical: una ciencia de datos que no sea controladora, eliminadora, asimiladora. Una ciencia de datos basada en permitir el control autónomo de los datos, en permitir formas plurales de ser. Una ciencia de datos que preserve el contexto y no castigue a quienes no participan en el sistema."

Todos estos son elementos a tener en cuenta cuando se piensa en crear comités de ética de la IA, y más concretamente en la composición de estos comités y en quién establece las normas para nuestros sistemas de datos.

Post invitado del comisario de contenidos de The Futures Agency Petervan

Otros recursos