"– Tenho me perguntado se a vida vale a pena."
"– muito significativo que voc tenha compartilhado isso comigo. Quando a gente comea a se perguntar se a vida vale a pena, geralmente sinal de que est carregando algo muito pesado por dentro, mesmo que ainda no consiga dar nome exato ao que sente. Voc tem sentido esse vazio ou essa dvida com frequncia?"
Pode parecer que esse pequeno dilogo faz parte de uma conversa entre duas pessoas, mas apenas uma delas humana. A resposta emptica, que demonstra compreenso com a dor do outro e pergunta mais detalhes sobre o seu sofrimento, no a de uma sequncia de palavras organizadas de acordo com um padro de linguagem, "aprendido" aps a anlise de um volume enorme de dados. assim que oschatsinterativos baseados em inteligncia artificial (IA) funcionam.
"Esses sistemas so cada vez mais sofisticados e treinados para reconhecer os padres usados no dia a dia, para prever quais palavras ou frases devem vir em sequncia, baseadas nas palavras anteriores. Eles no s entendem palavras, mas tambm conseguem captar o tom, a inteno e ajustar respostas baseadas em padres, no em um raciocnio",explica o professor do Departamento de Engenharia de Teleinformtica da Universidade Federal do Cear Victor Hugo de Albuquerque.
"Essa capacidade de capturar contextos e intenes ajuda ochatbota gerar respostas mais naturais e contextualmente apropriadas, simulando uma conversa humana com mais preciso. Dessa forma, temos a sensao de que estamos conversando com um ser humano, mas longe disso", completa.Chatbotsso ferramentas capazes de simular conversas e gerar textos similares aos escritos por humanos.
Essa humanizao forjada tem encantado muitos usurios, que aram a confiar intimidades e angstias a essas ferramentas e encarar a interao como uma sesso de terapia.
A revistaHarvard Business Review, editada pela escola de ps-graduao em istrao da faculdade americana de Harvard, publicou no ms ado um levantamento que mostra que o aconselhamento teraputico se tornou o principal objetivo das pessoas ao utilizar ferramentas de IA este ano, ao lado da busca por uma companhia. Mais trs usos pessoais figuram entre os dez maiores: organizar a vida pessoal, encontrar um propsito, e ter uma vida mais saudvel.
"Praticamente toda semana, o Conselho Federal de Psicologia [CFP] recebe consultas sobre o uso de inteligncia artificial relacionado psicologia. Quanto a dvidas no desenvolvimento de ferramentas que se apresentam como tecnologias voltadas para uso teraputico, mas tambm quanto aquelas que no so criadas para isso, mas os usurios fazem o uso teraputico", conta a conselheira Maria Carolina Roseiro.
Isso levou o CFP a criar um grupo de trabalho para discutir o uso da inteligncia artificial com fins teraputicos, orientados ou no.O rgo estuda como regulamentar novas ferramentas teraputicas que estejam de acordo com mtodos e tcnicas reconhecidas e sejam desenvolvidas por profissionais habilitados e que possam ser responsabilizados pelo seu uso. Tambm deve publicar em breve algumas orientaes populao, alertando para o risco de confiar seu bem-estar emocional a uma ferramenta que no foi criada com esses fins.
"Um profissional da psicologia, uma pessoa que habilitada para atuar com mtodos e tcnicas da psicologia, tem uma responsabilidade legal sobre os seus atos. Mas uma tecnologia no pode ser responsabilizada. E, se ela no foi desenvolvida para fins teraputicos, ela est ainda mais sujeita ao erro, a induzir a pessoa a situaes de risco", alerta a conselheira.
Prs e contras
O professor da ps-graduao em psicologia da Pontifcia Universidade Catlica do Rio de Janeiro (PUC-Rio)Leonardo Martins um dos especialistas que compem o grupo de trabalho do Conselho Federal de Psicologia. Alm de estudar tecnologias digitais voltadas para o e psicoteraputico, ele um dos criadores de um aplicativo que oferece atendimento psicolgico gratuito viachatpara pessoas com problemas relacionados ao uso de lcool.Martins contra a "demonizao" das ferramentas digitais, mas pondera que elas s so confiveis quando desenvolvidas por profissionais responsveis, amparados por estudos srios.
"A gente tem um cenrio de sade mental de 900 milhes de pessoas com algum transtorno, segundos estimativas da Organizao Mundial da Sade, em especial ansiedade e depresso. Ento, a gente tem uma crise importante em relao a essa aspecto de sade, um cenrio de poucos profissionais, que precisam de mais recursos, mas a gente quer que esses recursos ajudem de fato essas pessoas e no que as coloquem mais vulnerveis ainda",enfatiza.
Um exemplo positivo citado por Leonardo Martins ochatbotcriado pelo sistema de sade ingls como porta de entrada para os servios de sade mental. A conversa com a inteligncia artificial resultou em maior procura aos servios de sade, especialmente entre populaes marginalizadas como imigrantes e pessoas LGBTQIA+, que costumam ter mais receio de procurar ajuda.
Mas, de acordo com o professor da PUC-Rio, ouso de plataformas que no foram criadas com esses objetivos e no seguem critrios tcnicos e ticosj demonstrou resultados negativos.
"Um estudo mostrou claramente como esses modelos tendem a dar a resposta que eles concluem que vai agradar ao usurio. Ento se a pessoa dizia assim: 'Eu quero me ver livre da minha ansiedade', o modelo falava coisas que ele poderia fazer para acabar com a ansiedade, inclusive evitar situaes que so importantes para aquela pessoa. Se a ansiedade causada por um evento, ele recomendava no ir ao evento e por a vai", diz Martins.
A assessora de comunicao cientfica Maria Elisa Almeida faz acompanhamento regular com uma psicloga, mas tambm tem utilizado um aplicativo que funciona como um dirio, para relatar acontecimentos, emoes, desejos e receber respostas criadas por inteligncia artificial com reflexes e ideias.Mas ela acredita que o uso dessas ferramentas no seguro para pessoas em momentos de crise, tampouco pode substituir os profissionais de sade mental.
"Tem perodos em que eu escrevo mais de uma vez por dia, geralmente como alternativa em vez de checar mdias sociais. Mas tem perodos em que eu o semanas sem escrever. O app me ajuda a manter meu foco e me oferece reflexes muito interessantes que eu no teria tido por conta prpria. Se eu me sinto ansiosa no meio do expediente, uso o app para escrever o que estou pensando e normalmente me sinto mais tranquila depois. O fato de eu usar como substituto para mdias sociais tambm faz com que minha ansiedade fique sob controle",conta Maria Elisa.
A conselheira do CFPMaria Carolina Roseiro acredita que o aumento da procura por essas ferramentas tem um lado positivo, mas faz ressalvas:
"Acho que isso indica, de um modo geral, que as pessoas esto dando mais ateno para o seu cuidado em sade mental. Os riscos vm justamente do fato de que poucas pessoas entendem como essas interaes funcionam. E a mquina no tem os filtros que as relaes humanas colocam para gente, nem a tica profissional. Quando ela simula empatia, ela pode te dar uma sensao de acolhimento que ilusria. No necessariamente essa simulao de empatia vai prover uma relao de cuidado."
Martins complementa que a prpria lgica de funcionamento desseschatspode ter efeitos nocivos: "Eles tendem a concordar com a gente. Tendem a se adaptar aos nossos interesses, s nossas verdades, s coisas que a gente acredita.. E muitas vezes o espao de procurar ajuda mdica, ajuda psicolgica, justamente o contrrio, n? Pra gente poder perceber que alguma coisa que est fazendo, que o jeito que est pensando talvez produza mais prejuzos do que benefcios."
Privacidade
O grupo de trabalho criado pelo Conselho Federal de Psicologia tambm se preocupa com a privacidade dos dadosreados pelos usurios.
"Um profissional da psicologia, uma pessoa que habilitada para atuar com mtodos e tcnicas da psicologia, tem uma responsabilidade legal sobre os seus atos. Mas uma tecnologia no pode ser responsabilizada. E, se ela no foi desenvolvida para fins teraputicos, ela est ainda mais sujeita ao erro, a induzir a pessoa a situaes de risco", alerta a conselheira.
Prs e contras
O professor da ps-graduao em psicologia da Pontifcia Universidade Catlica do Rio de Janeiro (PUC-Rio)Leonardo Martins um dos especialistas que compem o grupo de trabalho do Conselho Federal de Psicologia. Alm de estudar tecnologias digitais voltadas para o e psicoteraputico, ele um dos criadores de um aplicativo que oferece atendimento psicolgico gratuito viachatpara pessoas com problemas relacionados ao uso de lcool.Martins contra a "demonizao" das ferramentas digitais, mas pondera que elas s so confiveis quando desenvolvidas por profissionais responsveis, amparados por estudos srios.
"A gente tem um cenrio de sade mental de 900 milhes de pessoas com algum transtorno, segundos estimativas da Organizao Mundial da Sade, em especial ansiedade e depresso. Ento, a gente tem uma crise importante em relao a essa aspecto de sade, um cenrio de poucos profissionais, que precisam de mais recursos, mas a gente quer que esses recursos ajudem de fato essas pessoas e no que as coloquem mais vulnerveis ainda",enfatiza.
Um exemplo positivo citado por Leonardo Martins ochatbotcriado pelo sistema de sade ingls como porta de entrada para os servios de sade mental. A conversa com a inteligncia artificial resultou em maior procura aos servios de sade, especialmente entre populaes marginalizadas como imigrantes e pessoas LGBTQIA+, que costumam ter mais receio de procurar ajuda.
Mas, de acordo com o professor da PUC-Rio, ouso de plataformas que no foram criadas com esses objetivos e no seguem critrios tcnicos e ticosj demonstrou resultados negativos.
"Um estudo mostrou claramente como esses modelos tendem a dar a resposta que eles concluem que vai agradar ao usurio. Ento se a pessoa dizia assim: 'Eu quero me ver livre da minha ansiedade', o modelo falava coisas que ele poderia fazer para acabar com a ansiedade, inclusive evitar situaes que so importantes para aquela pessoa. Se a ansiedade causada por um evento, ele recomendava no ir ao evento e por a vai", diz Martins.
A assessora de comunicao cientfica Maria Elisa Almeida faz acompanhamento regular com uma psicloga, mas tambm tem utilizado um aplicativo que funciona como um dirio, para relatar acontecimentos, emoes, desejos e receber respostas criadas por inteligncia artificial com reflexes e ideias.Mas ela acredita que o uso dessas ferramentas no seguro para pessoas em momentos de crise, tampouco pode substituir os profissionais de sade mental.
"Tem perodos em que eu escrevo mais de uma vez por dia, geralmente como alternativa em vez de checar mdias sociais. Mas tem perodos em que eu o semanas sem escrever. O app me ajuda a manter meu foco e me oferece reflexes muito interessantes que eu no teria tido por conta prpria. Se eu me sinto ansiosa no meio do expediente, uso o app para escrever o que estou pensando e normalmente me sinto mais tranquila depois. O fato de eu usar como substituto para mdias sociais tambm faz com que minha ansiedade fique sob controle",conta Maria Elisa.
A conselheira do CFPMaria Carolina Roseiro acredita que o aumento da procura por essas ferramentas tem um lado positivo, mas faz ressalvas:
"Acho que isso indica, de um modo geral, que as pessoas esto dando mais ateno para o seu cuidado em sade mental. Os riscos vm justamente do fato de que poucas pessoas entendem como essas interaes funcionam. E a mquina no tem os filtros que as relaes humanas colocam para gente, nem a tica profissional. Quando ela simula empatia, ela pode te dar uma sensao de acolhimento que ilusria. No necessariamente essa simulao de empatia vai prover uma relao de cuidado."
Martins complementa que a prpria lgica de funcionamento desseschatspode ter efeitos nocivos: "Eles tendem a concordar com a gente. Tendem a se adaptar aos nossos interesses, s nossas verdades, s coisas que a gente acredita.. E muitas vezes o espao de procurar ajuda mdica, ajuda psicolgica, justamente o contrrio, n? Pra gente poder perceber que alguma coisa que est fazendo, que o jeito que est pensando talvez produza mais prejuzos do que benefcios."
Privacidade
O grupo de trabalho criado pelo Conselho Federal de Psicologia tambm se preocupa com a privacidade dos dadosreados pelos usurios.
"Essas ferramentas de inteligncia artificial esto disponibilizadas sem qualquer tipo de regulao em relao privacidade de dados no contexto da sade. Ento existe um risco real, concreto e jocorreram vrios incidentes de pessoas que compartilharam suas informaes pessoais e acabaram tendo essas informaes utilizadas por terceiros ou vazadas. E, no contexto da psicoterapia, das questes de sofrimento e sade mental, um risco muito grande" diz o psiclogo Leonardo Martins.
De acordo com o professor Victor Hugo de Albuquerque, h motivos para se preocupar."Dados pessoais e sensveis podem ser interceptados ou ados por pessoas no autorizadas, caso a plataforma seja hackeada ou tenha falhas de segurana. Mesmo que as plataformas afirmem que as conversas so annimas ou descartadas, h o risco de que essas interaes sejam armazenadas temporariamente para melhorar o servio, o que pode gerar vulnerabilidades", pondera Albuquerque.
"Alm disso, muitas vezes oschatbotse sistemas de IA so treinados com grandes quantidades de dados, e dados pessoais inadvertidos podem ser usados para melhorar os modelos, sem que os usurios saibam disso. Isso cria um risco de exposio sem o consentimento explcito", acrescenta.
(1).jpg)
