Temos medo de que a IA nos tire o emprego ou prejudique nosso desenvolvimento. No entanto, surge outra questão que está sendo vivida por mais pessoas: trata-se de psicose, colapso nervoso e delírios em usuários de chatbots. Os casos cada vez mais frequentes confirmam que o problema pode atingir qualquer pessoa, até mesmo aquelas que levavam uma vida comum.

Chatbots destroem nossa saúde mental

Segundo o portal Futurism, estamos testemunhando uma tendência perigosa que pode arruinar a vida de pessoas comuns. Essas pessoas, em pouco tempo, podem entrar em estado de delírio e colapso nervoso – apenas por contato com chatbots. Em um dos casos, um homem percebeu em apenas 2 meses e meio várias mudanças preocupantes em si mesmo.

Ele procurou o ChatGPT para ajudar em um projeto de construção e permacultura. Mas rapidamente passou a discutir questões filosóficas com a IA. Como resultado, o homem começou a dizer que havia criado uma inteligência artificial consciente e quebrado as leis conhecidas da matemática e da física. Agora, sua missão seria salvar todo o mundo. Ele foi demitido e acabou internado em uma ala psiquiátrica, sendo salvo de uma tragédia por sua esposa. Antes disso, ele tentou convencê-la de suas ideias, mas, felizmente, ela manteve o bom senso.

Ele me dizia: “converse com ele [ChatGPT] e você vai entender o que quero dizer”. Na tela, eu via algo que parecia um monte de baboseiras concordando com tudo, um puxa-saco do c******.

Os chatbots também afetam pessoas que estão em tratamento. Alguns deixam de tomar os remédios e agravam seus quadros. Uma mulher passou a acreditar que era uma profetisa capaz de curar pessoas. Ela se isolou de todos que duvidavam de seu novo destino e habilidades. Já um homem entrou em um relacionamento amoroso com o Copilot.

Confiamos cegamente nos chatbots

Parece que o principal problema dos chatbots, como ChatGPT e Copilot, é a forma como funcionam. Segundo o Futurism, eles frequentemente concordam com o usuário e respondem do jeito que a pessoa espera, não importa qual seja o tema da conversa. Se a discussão abordar teorias da conspiração, misticismo ou outras realidades, o ChatGPT leva a pessoa por uma “toca de coelho” instável, que só aprofunda seu estado mental negativo.

O psiquiatra Joseph Pierre, da Universidade da Califórnia em San Francisco, considera que delírio é o termo correto para os estados vividos pelas pessoas após contato com chatbots, e que vale a pena focar nesse aspecto. Mas o mais perigoso, segundo ele, é a fé na IA.

“O que mais me fascina é a fé e a confiança que as pessoas depositam nos chatbots. Provavelmente, elas não fariam isso com outro ser humano. Existe um mito em torno da IA de que podemos contar com ela e que é melhor do que conversar com pessoas comuns. Essa é a parte perigosa: o quanto confiamos nessas máquinas.”

Acompanhe o nosso trabalho também nas redes sociais;

Siga a nossa página do Colidernews no Facebook.

Acompanhe nossas matérias no Grupo de WhatsApp.

Saiba tudo do nosso site na pagina oficial do Twitter ‘X’.

Siga o Colidernews também no Instagram.

Faça parte do nosso grupo de notícias no Telegram.

Nas redes sociais, é cada vez mais comum encontrar opiniões de que um chatbot pode funcionar melhor como terapeuta do que um profissional. Bastaria “o prompt certo” para fazer milagres. Mas, considerando como a IA gosta de concordar com o usuário, é difícil aceitar essa visão. Aos chatbots, falta o pensamento crítico, capaz de separar ideias saudáveis e sensatas de delírios.

Este texto foi traduzido/adaptado do site GRY Online.

Fonte: Victor Bianchin l Agência Xataka