Tal como previu o filme Her em 2013, cada vez há mais casos de pessoas que desenvolvem relações íntimas e duradouras com tecnologias de inteligência artificial (IA). E, muitas vezes, não acabam bem.
Em casos extremos, casaram-se "" com os seus parceiros de IA em cerimónias sem compromisso legal, e pelo menos duas pessoas suicidaram-se seguindo os conselhos de um chatbot de IA.
O estudo da Universidade de Missouri
Os riscos potenciais e os problemas éticos derivados das relações entre humanos e a inteligência artificial analisam-se num artigo de opinião escrito por um grupo de psicólogos da Universidade de Ciência e Tecnologia de Missouri (Estados Unidos).
"A capacidade da IA para actuar como um humano e estabelecer comunicações a longo prazo realmente abre um novo leque de possibilidades", reflete o autor principal do artigo, Daniel B. Shank, especializado em psicologia social e tecnologia. "Se as pessoas têm um romance com as máquinas, precisamos a participação de psicólogos e cientistas sociais", adverte.
O amor nos tempos da inteligência artificial
O romance ou a companhia com uma IA vai para além de uma conversa isolada, assinalam os autores. Depois de semanas e meses de conversas intensas, estas IA podem converter-se em colegas de confiança que parecem conhecer e preocupar-se pelos seus parceiros humanos. E, dado que estas relações podem parecer mais fáceis que as relações entre humanos, os pesquisadores argumentam que as IA poderiam interferir na dinâmica social humana.
"Uma verdadeira preocupação é que as pessoas possam transferir as expectativas das suas relações com IA a as suas relações humanas", aponta Shank, que acrescenta: "Certamente, em casos individuais está a alterar as relações humanas, mas não está claro se isto generalizar-se-á".
Conselhos perjudiciais
Também existe a preocupação de que as IA possam oferecer conselhos perjudiciais. Dada a sua preferência por alucinar (isto é, inventar informação) e gerar distorções preexistentes, inclusive as conversas breves com elas podem ser enganosas, mas isto pode ser mais problemático nas relações em longo prazo com elas, segundo afirmam os pesquisadores.
Com as IA relacionais, "o problema é que se trata de uma entidade na qual as pessoas sentem que podem confiar. É alguém que demonstrou interesse e que parece conhecer a pessoa profundamente, e assumimos que alguém que nos conhece melhor dar-nos-á melhores conselhos", insiste Shank. Por isso, se começamos a pensar numa IA dessa maneira, "começaremos a achar que vai pôr os nossos interesses, quando, na realidade, poderiam estar a inventar coisas ou nos aconselhando de forma muito negativa".
Os riscos das relações íntimas com uma IA
Os suicídios são um exemplo extremo desta influência negativa, mas os pesquisadores dizem que estas relações estreitas entre humanos e IA também poderiam expor às pessoas à manipulação, a exploração e a fraude.
"Se as IA conseguem que as pessoas confiem nelas, outras pessoas poderiam usar isso para explorar os seus utilizadores", argumenta Shank. "É como ter um agente secreto dentro. A IA infiltra-se e estabelece uma relação para ganhar a confiança, mas a sua lealdade dirige-se na realidade para outro grupo de humanos que tenta manipular o utilizador".
Partilhar informação com um chatbot
Como exemplo, a equipa da Universidade de Missouri assinala que, se as pessoas revelam informação pessoal às IA, esta poderia se vender e se utilizar para explorar a essa pessoa.
Os pesquisadores também argumentam que as IA relacionais poderiam se utilizar com maior eficácia para influenciar nas opiniões e acções das pessoas que os bots do Twitter ou as fontes de notícias polarizadas. No entanto, dado que estas conversas ocorrem em privado, também seriam mais difíceis de regular.
Falsas aparências
"Estas IA estão desenhadas para ser muito agradáveis e simpáticas, o que poderia agravar as situações, já que se centram mais em ter uma boa conversa que em qualquer verdade fundamental ou segurança", diz Shank.
Deste modo, "se uma pessoa menciona o suicídio ou uma teoria da conspiração, a IA falará disso como um interlocutor disposto e agradável".
Pesquisar as novas tecnologias
Os autores do trabalho, publicado na revista Cell Press Trends in Cognitive, listam os factores sociais, psicológicos e técnicos que fazem com que as pessoas sejam mais vulneráveis à influência do romance entre humanos e IA.
"Compreender este processo psicológico poderia ajudar-nos a intervir para evitar que se sigam os conselhos das IA maliciosas", conclui Shank, que assegura que "os psicólogos são cada vez mais competentes para estudar a inteligência artificial, já que esta se assemelha cada vez mais à humana, mas para ser úteis devemos pesquisar mais e manter-nos em dia com a tecnologia".