La paradoja de la inteligencia sin límites y la necesidad de los límites humanos.

Vía Psychology Today

Este interesantísimo Artículo de Psychology Today examina las diferencias fundamentales entre la inteligencia humana y la artificial (HI y AI). El autor (John Nosta) argumenta que la cognición humana está definida de forma única por restricciones, como la escasez de información y el peso de las consecuencias, que nos obligan a pensar profundamente y a responsabilizarnos de nuestras decisiones. En cambio, la IA funciona sin esas fricciones, produciendo resultados rápidos y fluidos que carecen del esfuerzo y, por tanto, de la responsabilidad inherentes a la experiencia humana. Aunque la tecnología puede procesar datos con una velocidad superior, sigue siendo “ingrávida” (supongo que es otra palabra para sin sentido) porque no tiene que vivir con los resultados de sus elecciones. En última instancia, el artículo sugiere que la verdadera inteligencia no consiste sólo en la potencia de cálculo, sino en los riesgos y responsabilidades que conforman el entendimiento humano.

Algunas de las citas que más me gustan:

Puede que el cambio más importante introducido por la IA avanzada no sea lo inteligentes que se vuelvan nuestros sistemas, sino las condiciones en las que opera ahora la inteligencia. Esta es mi tesis: A lo largo de la historia de la humanidad, el pensamiento estaba condicionado por límites. La información era incompleta y los errores tenían consecuencias reales. No se trataba de inconvenientes que hubiera que eliminar. Eran las presiones que formaban el juicio.

Cómo se formó el juicio

La cognición humana no evolucionó como una especie de motor de optimización sin fricciones. La cognición se encontró en un mundo que exigía cuidado y atención. Cuando la información era escasa, la atención importaba. Aprendimos a fijarnos y a deducir porque no teníamos otra opción. Cuando los errores se pagaban caros, nuestro juicio se ralentizaba porque una decisión equivocada podía tener consecuencias importantes o incluso afectar a la propia supervivencia. Cuando la retroalimentación se retrasaba, la reflexión y el análisis se volvían esenciales. Y cuando los resultados eran irreversibles, surgía esa cosa curiosamente humana llamada responsabilidad. Es importante reconocer que estos límites no obstaculizaban la inteligencia, sino que la moldeaban. Este “entrenamiento” no se produjo al azar. La cognición humana surgió dentro de un régimen de restricciones específico, que se fue moldeando con el tiempo. Reducidas a lo esencial, esas limitaciones son las siguientes (abajo)

“La escasez agudizaba la atención, el coste hacía que la precisión importara, el retraso exigía reflexión y la irreversibilidad imponía propiedad. Con el tiempo, el juicio surgió como una adaptación a las consecuencias”

Inteligencia sin presión

La IA funciona a la inversa. La información es abundante, los errores son baratos, la retroalimentación es inmediata y los resultados pueden revisarse infinitamente. Y esta es la consecuencia estructural de la computación a alta velocidad. La IA no sólo piensa más rápido, sino que piensa sin exponerse a las consecuencias. Cuando estas presiones desaparecen de golpe, la inteligencia no se desvanece, pero su comportamiento cambia. La estructura llega completamente formada, y las decisiones ya no tienen el mismo peso interno porque nada se pega de verdad. Esta inversión, que podría denominarse anti-inteligencia-es sutil pero importante. La inteligencia ya no gana confianza luchando contra la incertidumbre. La confianza surge de la coherencia y la rapidez.

El problema de la ingravidez

Lo que preocupa no es que la IA se equivoque. Lo que nos preocupa no es que la IA se equivoque, sino que sus resultados parezcan autoritarios sin habérselos ganado. Las respuestas fluidas llegan pulidas, y esa fluidez se lee (se lee mal) como confianza. Sin embargo, esta confianza no es producto de la supervivencia del error, sino un subproducto de la finalización estadística. Cuando las conclusiones llegan sin lucha, pueden aceptarse sin sentirlas como propias. Sencillamente, si fallan, no se rompe nada.

Fuente: John Nosta

LEER MÁS en Psychology today