O paradoxo da inteligência sem limites e a necessidade dos limites humanos.

Via Psychology Today

Este superinteressante Artigo do Psychology Today examina as diferenças fundamentais entre a inteligência humana e a inteligência artificial (HI e AI). O autor (John Nosta) argumenta que a cognição humana é definida exclusivamente por constrangimentos, como a escassez de informação e o peso das consequências, que nos obrigam a pensar profundamente e a assumir a responsabilidade pelas nossas decisões. Em contrapartida, a IA funciona sem qualquer atrito deste tipo, produzindo resultados rápidos e fluentes que carecem do esforço e, por conseguinte, da responsabilidade inerente à experiência humana. Embora a tecnologia possa processar dados a uma velocidade superior, permanece “sem peso” (acho que é outra palavra para sem sentido) porque não tem de viver com os resultados das suas escolhas. Em última análise, o artigo sugere que a verdadeira inteligência não tem apenas a ver com o poder computacional, mas com os riscos e as responsabilidades que moldam a compreensão humana.

Algumas citações de que gosto mais:

A mudança mais importante introduzida pela IA avançada pode não ser o grau de inteligência dos nossos sistemas, mas as condições em que a inteligência funciona atualmente. A minha tese é a seguinte: Ao longo da história da humanidade, o pensamento foi moldado por limites. A informação era incompleta e os erros tinham consequências reais. Não se tratava de inconvenientes que podiam ser eliminados por engenharia. Eram as pressões que formavam o juízo.

Como foi formado o julgamento

A cognição humana não evoluiu como uma espécie de motor de otimização sem fricção. A cognição encontrou-se num mundo que exigia cuidados e atenção. When information was scarce, attention mattered. We learned to notice and infer because we had no choice. When mistakes were costly, our judgment slowed because a wrong decision could have significant consequences or even impact survival itself. When feedback was delayed, reflection and analysis became essential. And when outcomes were irreversible, this curiously human thing called responsibility followed. It's important to recognize that these limits did not hinder intelligence; they shaped it. This “training” didn't occur randomly. Human cognition emerged within a specific constraint regime, one that was shaped over time. Stripped to its essentials, those constraints look like this (below)

“A escassez aguçou a atenção, o custo fez com que a exatidão fosse importante, o atraso exigiu reflexão e a irreversibilidade impôs a propriedade. Com o tempo, o julgamento surgiu como uma adaptação às consequências”

Inteligência sem pressão

A IA funciona de acordo com o inverso desta construção. A informação é abundante, os erros são baratos, o feedback é imediato e os resultados podem ser revistos infinitamente. E esta é a consequência estrutural da computação a alta velocidade. A IA não se limita a pensar mais depressa; pensa sem estar exposta às consequências. Quando estas pressões desaparecem de uma só vez, a inteligência não desaparece, mas o seu comportamento altera-se. A estrutura chega completamente formada e as decisões já não têm o mesmo peso interno porque nada se mantém. Essa inversão - que pode ser chamada de anti-espionagem-é subtil mas importante. A inteligência já não é sinónimo de confiança lutando contra a incerteza. A confiança emerge antes da coerência e da rapidez.

O problema da ausência de peso

A preocupação aqui não é que a IA esteja errada. O que preocupa é que os seus resultados pareçam ter autoridade sem terem sido merecidos. As respostas fluentes chegam polidas, e essa fluência é lida (mal interpretada) como confiança. No entanto, esta confiança não é o produto da sobrevivência ao erro, mas um subproduto da conclusão estatística. Quando as conclusões chegam sem esforço, podem ser aceites sem propriedade. Em termos simples, se falharem, nada se estraga.

Fonte: João Nosta

LER MAIS em Psychology today

---