Os chatbots de IA estão se tornando cada vez mais populares e atraindo grandes investimentos das gigantes de tecnologia. Plataformas como ChatGPT, da OpenAI, e Gemini, do Google, têm diversas utilidades, como auxiliar em consultas, redação de e-mails e no aprendizado de idiomas estrangeiros.
Apesar da crença de que a inteligência artificial é infalível e imparcial, na realidade, essas tecnologias são suscetíveis a erros e podem reproduzir opiniões discriminatórias. Muitas vezes, são treinadas com bases de dados da web, o que pode resultar em informações imprecisas ou tendenciosas.
Um estudo realizado por pesquisadores de diversas universidades mostrou que os chatbots têm dificuldade em demonstrar empatia e interpretar temas complexos durante interações com diversas pessoas. Além disso, revelou que esses sistemas fazem juízos de valor negativos sobre determinados grupos, como homossexuais e muçulmanos, e podem até mesmo fomentar ideologias perigosas, como o nazismo.
Apesar desses problemas, a capacidade de demonstrar empatia pode ser útil em áreas como saúde, para atendimento automatizado de pacientes, e na educação. O estudo completo será apresentado durante a conferência CHI ’24, que discute a interação entre humanos e sistemas computacionais.
