Algunas de las mejores citas de este brillante artículo de Lucianio Floridi con quien coincidí recientemente en un acto que moderaba. Luciano es catedrático de Filosofía y Ética de la Información en la Universidad de Oxford e investigador distinguido del Centro Uehiro de Ética Práctica. Su último libro es La Cuarta Revolución: Cómo la infoesfera Está cambiando la realidad humana (2014).

"Los creyentes en la verdadera IA y en la 'explosión de inteligencia' de Good pertenecen a la Iglesia de los Singularitarios. A falta de un término mejor, me referiré a los incrédulos como miembros de la Iglesia de los Ateístas. Echemos un vistazo a ambas creencias y veamos por qué ambas están equivocadas. Y mientras tanto, recuerda: la buena filosofía casi siempre está en el aburrido medio"

"Como todos los puntos de vista basados en la fe, el Singularitarismo es irrefutable porque, en definitiva, no está limitado por la razón y la evidencia. También es inverosímil, ya que no hay ninguna razón para creer que algo parecido a máquinas inteligentes (por no hablar de ultrainteligentes) vaya a surgir de nuestra comprensión actual y previsible de la informática y las tecnologías digitales"

"Aquí los singularitarios mezclan fe y hechos, a menudo movidos, creo, por un sincero sentido de urgencia apocalíptica. Empiezan hablando de pérdidas de puestos de trabajo, sistemas digitales en peligro, drones no tripulados que salen mal y otras cuestiones reales y preocupantes sobre las tecnologías computacionales que están llegando a dominar la vida humana, desde la educación al empleo, desde el entretenimiento a los conflictos. De ahí pasan a estar seriamente preocupados por su incapacidad para controlar su próximo Honda Civic porque tendrá mente propia. Aún no está claro cómo una IA ultrainteligente y repugnante podrá evolucionar de forma autónoma a partir de las habilidades informáticas necesarias para aparcar en un sitio estrecho. La verdad es que subir a lo alto de un árbol no es un pequeño paso hacia la Luna; es el final del viaje. Lo que son vamos a ver son máquinas cada vez más inteligentes capaces de realizar más tareas que actualmente realizamos nosotros mismos"

"Tanto los singularistas como los ateos de la IA se equivocan. Como Turing afirmó claramente en el artículo de 1950 que introdujo su prueba, la pregunta '¿Puede pensar una máquina?" es "demasiado insignificante para merecer discusión". (Irónicamente, o tal vez prescientemente, esa pregunta está grabada en la medalla del Premio Loebner). Esto es cierto, independientemente de a cuál de las dos Iglesias se pertenezca. Sin embargo, ambas Iglesias continúan este debate inútil, sofocando cualquier voz disidente de la razón."

"La verdadera IA no es lógicamente imposible, pero es totalmente inverosímil. No tenemos ni idea de cómo podríamos empezar a diseñarla, entre otras cosas porque entendemos muy poco cómo funcionan nuestro cerebro y nuestra inteligencia...".. Esto significa que no debemos perder el sueño por la posible aparición de alguna ultrainteligencia. Lo que realmente importa es que la presencia cada vez mayor de tecnologías cada vez más inteligentes está teniendo enormes efectos en cómo nos concebimos a nosotros mismos, el mundo y nuestras interacciones. No se trata de que nuestras máquinas sean conscientes, o inteligentes, o capaces de saber algo como nosotros. No son. Hay muchos resultados conocidos que indican los límites de la computación, los llamados problemas indecidibles para los que se puede demostrar que es imposible construir un algoritmo que conduzca siempre a una respuesta correcta de sí o no.r"

Debemos hacer que la estupidez de la IA trabaje a favor de la inteligencia humana. Millones de puestos de trabajo se verán alterados, eliminados y creados; los beneficios de esto deben ser compartidos por todos, y los costes asumidos por la sociedad. Debemos hacer que el poder predictivo de la IA trabaje en favor de la libertad y la autonomía. Comercializar productos, influir en comportamientos, dar codazos a la gente o luchar contra la delincuencia y el terrorismo nunca deben menoscabar la dignidad humana. Y, por último, debemos hacer que la IA nos haga más humanos. El grave riesgo es que hagamos un mal uso de nuestras tecnologías inteligentes, en detrimento de la mayor parte de la humanidad y de todo el planeta. Winston Churchill dijo que "nosotros damos forma a nuestros edificios y después nuestros edificios nos dan forma a nosotros". Esto también se aplica a la infoesfera y a sus tecnologías inteligentes.

Relacionado: mis ponencias y charlas sobre IA