Os Keyes ist Doktorand an der University of Washington und Gründungsmitglied der Ada Lovelace-Stipendiatin die sich mit Geschlecht, Daten, Technologie und Kontrolle beschäftigt. Sie hat einen fantastischer Posten in dieser Woche, die mich zum Nachdenken bringen: Die Datenwissenschaft braucht nuanciertere Orientierungen darüber, was in welchen spezifischen Normen gemessen wird. Sie stellt auch vor Dean SpadeBegriff "administrative Gewalt", um auf die Art und Weise zu verweisen, wie Verwaltungssysteme enge Geschlechterkategorien schaffen und Menschen in diese zwingen, um ihre Grundbedürfnisse zu befriedigen. Dies ist eine Pflichtlektüre für alle, die für politische Entscheidungen und Datenethik zuständig sind.

"Die starre Aufrechterhaltung von Hierarchien und Normen ist eigentlich die Aufgabe des Staates. Für mich besagt meine Ethik der Fürsorge, dass wir für eine radikale Datenwissenschaft arbeiten sollten: eine Datenwissenschaft, die nicht kontrollierend, eliminierend oder assimilierend ist. Eine Datenwissenschaft, die auf der Ermöglichung einer autonomen Kontrolle von Daten basiert, auf der Ermöglichung pluralistischer Lebensweisen. Eine Datenwissenschaft, die den Kontext bewahrt und nicht diejenigen bestraft, die sich nicht am System beteiligen."

"Die Datenwissenschaft basiert im Wesentlichen auf einem reduzierten Menschenbild und nutzt dieses, um unser Leben zu kontrollieren und zu standardisieren, und sie reagiert auf Kritik nur, indem sie die Überwachung ausweitet. Eine genauere Definition von Datenwissenschaft wäre also vielleicht: Die unmenschliche Reduzierung der Menschheit auf das, was gezählt werden kann. Und nach der standardisierenden Logik der Datenwissenschaft wird diese Verfolgung reduktiv sein: Es wird nur die Dinge aufzeichnen, die für diejenigen, die die Systeme aufbauen, von Bedeutung sind, und zwar auf eine Art und Weise, die für sie akzeptabel ist, und man wird bestraft, wenn man davon abweicht. Meine Ethik der Fürsorge besagt, dass wir auf eine radikale Datenwissenschaft hinarbeiten sollten: eine Datenwissenschaft, die nicht kontrollierend, eliminierend oder assimilierend ist. Eine Datenwissenschaft, die auf der Ermöglichung einer autonomen Kontrolle von Daten beruht, auf der Ermöglichung pluraler Seinsweisen. Eine Datenwissenschaft, die den Kontext bewahrt und nicht diejenigen bestraft, die sich nicht am System beteiligen."

Dies sind alles Elemente, die zu berücksichtigen sind, wenn man über die Einrichtung von KI-Ethikausschüssen nachdenkt, und insbesondere über die Zusammensetzung dieser Ausschüsse und darüber, wer die Normen für unsere Datensysteme festlegt.

Gastbeitrag des Inhaltskurators der Futures Agency Petervan

Andere Ressourcen