Os Keyes é estudante de doutoramento na Universidade de Washington e um dos primeiros alunos de Bolseiro Ada Lovelace que estuda o género, os dados, a tecnologia e o controlo. Tem uma publicação fantástica esta semana que me fazem pensar: a ciência dos dados precisa de orientações mais matizadas sobre o que é medido em que conjunto específico de normas. Ela também apresenta Reitor Spadetermo "violência administrativa" para se referir à forma como os sistemas administrativos criam categorias restritas de género e forçam as pessoas a inserirem-se nelas para terem as suas necessidades básicas satisfeitas. Este livro é de leitura obrigatória para qualquer pessoa responsável pela definição de políticas e pela ética dos dados.

"A manutenção rígida da hierarquia e das normas é, de facto, o objetivo do Estado. Para mim, a minha ética do cuidado diz que devemos trabalhar para uma ciência de dados radical: uma ciência de dados que não seja controladora, eliminadora, assimiladora. Uma ciência de dados baseada na possibilidade de controlo autónomo dos dados, na possibilidade de formas plurais de ser. Uma ciência de dados que preserva o contexto e não pune aqueles que não participam no sistema".

"A ciência dos dados tem como premissa fundamental ter uma visão redutora da humanidade e usá-la para controlar e padronizar os caminhos que as nossas vidas podem tomar, e responde à crítica apenas expandindo o grau em que nos vigia. Por isso, talvez uma definição mais exacta de ciência dos dados fosse: A redução desumana da humanidade ao que pode ser contado. E, de acordo com a lógica normalizadora da ciência dos dados, este controlo vai ser redutor: Só vai registar as coisas que interessam àqueles que estão a construir os sistemas, das formas que são aceitáveis para eles, punindo-o quando se desviar. Para mim, a minha ética do cuidado diz que devemos trabalhar para uma ciência de dados radical: uma ciência de dados que não seja controladora, eliminadora, assimiladora. Uma ciência dos dados baseada na possibilidade de controlo autónomo dos dados, na possibilidade de formas plurais de ser. Uma ciência de dados que preserva o contexto e não pune aqueles que não participam no sistema".

Todos estes são elementos a ter em conta quando se pensa em criar Conselhos de Ética para a IA e, mais especificamente, na composição destes conselhos e em quem define as normas para os nossos sistemas de dados.

Publicação convidada do curador de conteúdos da The Futures Agency Petervan

Outros recursos