Riscos da computao afetiva

Informtica

Redação do Site Inovação Tecnológica – 21/10/2025

O concepção de computao afetiva pode transmitir uma sensao de um tanto amigvel, mas pode ser justamente o oposto.
[Imagem: Site Inovao Tecnolgica/Gerado por IA]

Computao afetiva

As mquinas esto chegando cada vez mais perto das inspiraes da fico cientfica, tanto das utopias, quanto das distopias, destacando de modo um tanto preocupante que a sociedade precisa deliberar – e agir – em relao a que porvir deseja quando o tema a convivncia da humanidade com a tecnologia.

Os pesquisadores Morris Gellisch (Universidade de Zurique, Sua) e Boris Burr (Universidade Bochum, Alemanha) acabam de provar que, alm de saber interpretar instrues lingusticas, os agora onipresentes grandes modelos de linguagem podem se valer exclusivamente dos comandos escritos para entender, interpretar e ajustar suas respostas aos dados fisiolgicos e emocionais do ser humano que lhes coloca as questes.

A dupla desenvolveu uma interface tcnica por meio da qual os dados fisiolgicos podem ser transmitidos ao padrão de linguagem em tempo real. Assim, a inteligncia artificial tambm pode levar em conta sinais fisiolgicos sutis, uma vez que alteraes na atividade cardaca e biomarcadores de estresse.

O objetivo enunciado da pesquisa perfurar caminhos para o uso dos aplicativos de IA em aplicaes mdicas e de assistncia, incluindo o atendimento mdico distncia, ou telemedicina. Mas produzir mquinas que consigam interpretar e moldar suas respostas tomando por base os estados emocionais das pessoas tambm levanta inmeras preocupaes ticas e de controle, sobretudo sobre consumidores e funcionrios de empresas.

Alteraes na frequncia cardaca podem fornecer informaes sobre o bem-estar fsico e emocional, mas as possibilidades de erros e vis so grandes.
[Imagem: RUB/Kramer]

IA observando suas emoes

Embora tenha de indumento um potencial inovador, a chamada computao afetiva levanta preocupaes significativas, principalmente no que diz saudação privacidade, autonomia e potencial de manipulao das pessoas. O risco reside no indumento de que as emoes, sendo dados profundamente pessoais e ntimos, podem ser coletadas, armazenadas e utilizadas sem o totalidade conhecimento ou consentimento dos usurios.

importante lembrar que o concepção de afeto – que d nome computao afetiva – na Psicologia mais extenso e multíplice do que o uso generalidade do termo, geralmente associado exclusivamente a relaes positivas de conexo. Na verdade, para os psiclogos o afeto um concepção genrico que engloba a totalidade das experincias emocionais e sentimentais de uma pessoa.

E as informaes coletveis vo muito alm de batimentos cardacos e ritmos respiratrios, com os que a dupla de pesquisas trabalhou. Por exemplo, uma pesquisa recente mostrou que os pensamentos e intenes podem ser lidos nas expresses faciais, o que pode ser feito por uma cmera generalidade.

Para seu experimento de demonstrao, os dois pesquisadores utilizaram um dispositivo generalidade que mede a versatilidade da frequncia cardaca por meio de uma cinto torcica. Os dados coletados eram decodificados, filtrados e inseridos no padrão de linguagem GPT-4 em tempo real.

Em resposta a um comando correspondente, a IA conseguiu apresentar corretamente os dados cardacos transmitidos na formade uma tábua, contendo valores mdios, mnimos, mximos e outras informaes. “A avaliao e a visualizao ocorrem diretamente no envolvente LLM, sem nenhum software estatstico ou de plotagem extrínseco,” contou Burr. E, mediante um novo comando de solicitao, a IA tambm mostrou os dados cardacos medidos.

“Ns tambm testamos nosso sistema em uma srie de cenrios de interao em tempo real, incluindo um experimento sobre estresse cognitivo, no qual o padrão de linguagem adaptou sua sada com base nas reaes da frequncia cardaca a demandas menores e maiores,” contou Gellisch. O sistema foi capaz de identificar diferenas nos padres de frequncia cardaca entre tarefas de baixa e subida demanda cognitiva e, em seguida, reagir a essas diferenas na sada da IA. O objetivo era mostrar que o padrão de linguagem pode responder a parmetros fisiolgicos e emocionais em tempo real quando estes so inseridos por meio da interface.

Riscos da computao afetiva

“A interface no interessante exclusivamente para cenrios de educao e pesquisa, mas tambm para aplicaes mdicas e de sade, uma vez que identificao de estresse, exausto ou desregulao emocional em tempo real,” disse Gellisch.

Se o termo “desregulao emocional”, usado supra pelo pesquisador, j abre caminho para excessos de vigilncia, os crticos apontam muitas outras possibilidades, da vigilncia emocional invasiva e o monitoramento emocional manente, at os riscos de vazamento de dados, os erros de interpretao incorreta e os vieses. Por exemplo, os modelos de IA so treinados com base em conjuntos de dados que podem apresentar vis cultural ou demogrfico – uma expresso facial que significa uma coisa em uma cultura, uma vez que um sorriso para disfarar uma emoo, pode ser interpretada de forma errada pelo sistema quando levante interagir com pessoas de outra cultura, gerando resultados tendenciosos, injustos e, potencialmente, discriminatrios.

O conhecimento das emoes e intenes de um usurio tambm abre o caminho para o uso da tecnologia de IA com o objetivo de influenciar o comportamento desse usurio, o que afeta diretamente a autonomia e a livre-escolha das pessoas. As possibilidades de mau uso vo da induo ao consumo e da influenciao poltica e social at a criao de vnculos danosos, uma vez que uma dependncia emocional da mquina, que se torna capaz de simular empatia e gerar respostas que criem laos de apego com o usurio, um tanto que os psiclogos chamam de “iluso teraputica”.

Outra rea de preocupaes est no relacionamento das empresas com os empregados. Cmeras e microfones so onipresentes no envolvente empresarial, e programas adequados podem monitorar o engajamento, o estresse ou mesmo a frustrao dos funcionrios em tempo real, criando mecanismos de avaliao no transparentes. Anlises desses dados podem ser usadas uma vez que mtrica de produtividade, levando a decises de contratao ou demisso baseadas em “estados de esprito” detectados pela mquina, o que subjetivo e passvel de erro.

Ser mesmo isso o que queremos?

Outras notcias sobre: