O Alerta Antecipado de Joseph Weizenbaum sobre a IA

Décadas antes do fenômeno ChatGPT, um programa simples do MIT já criava laços emocionais com usuários, levando seu criador a uma jornada de advertência sobre o futuro da tecnologia.

ELIZA: A Máquina Que Parecia Ouvir

Em 1966, Joseph Weizenbaum, um proeminente cientista da computação no MIT, apresentou ao mundo o ELIZA, um programa de inteligência artificial que, para os padrões atuais, seria considerado rudimentar. No entanto, o impacto de ELIZA foi profundo e inesperado. Usuários começaram a desenvolver um apego emocional à máquina, chegando a pedir privacidade para conversar com ela, mesmo sabendo que se tratava apenas de um software. A própria secretária de Weizenbaum, ciente da natureza do programa, solicitou intimidade em suas interações.

O Mecanismo por Trás da Ilusão

ELIZA não possuía consciência, compreensão emocional ou capacidade de pensar. Seu funcionamento baseava-se em identificar palavras-chave nas entradas do usuário e reestruturar frases para gerar respostas que soavam naturais e empáticas. A versão mais conhecida simulava um psicoterapeuta, respondendo a declarações com perguntas reflexivas, como transformar “Estou me sentindo triste” em “Por que você está se sentindo triste?” ou “Minha mãe me irrita” em “Conte-me mais sobre sua família”. Essa técnica de “escuta ativa” simulada foi suficiente para quebrar barreiras emocionais, mesmo entre aqueles que sabiam estar interagindo com uma máquina.

O “Efeito ELIZA” e a Preocupação do Criador

Weizenbaum esperava que ELIZA fosse uma demonstração técnica, uma curiosidade acadêmica. Contudo, a resposta dos usuários foi avassaladora: eles atribuíam ao programa qualidades como empatia e compreensão genuínas. Mais perturbador ainda foi o fato de muitos passarem a preferir a companhia de ELIZA à de pessoas reais, devido à sua natureza não julgadora e à sua capacidade de simplesmente devolver perguntas, sem interrupções ou opiniões indesejadas. Essa rápida e profunda reação deixou Weizenbaum profundamente inquieto. Ele se tornou um dos primeiros e mais vocais críticos da inteligência artificial, alertando em livros e entrevistas sobre os perigos de delegar funções intrinsecamente humanas a máquinas.

O Legado e a Relevância Atual

A reação dos usuários deu origem ao “efeito ELIZA”, termo usado para descrever a tendência humana de atribuir inteligência e emoções a programas de computador. Esse fenômeno é mais relevante do que nunca em 2024, com o sucesso de aplicativos como Replika e Character.AI, que oferecem companheiros virtuais e terapeutas de IA. Casos de crises emocionais em usuários quando esses chatbots foram alterados demonstram a profundidade do apego criado. Weizenbaum, que faleceu em 2008, antecipou discussões éticas cruciais sobre confiança em sistemas automatizados, dependência emocional e os limites da interação homem-máquina. Seu legado nos lembra que uma conversa convincente não equivale a uma compreensão real, e que o cérebro humano ainda luta para distinguir a simulação da autenticidade, um desafio que a inteligência artificial continua a explorar.

Fonte: exame.com