A polícia do Condado de Baltimore prendeu o ex-diretor de esportes da Pikesville High School na quinta-feira, alegando que ele usou um clone de voz de IA para se passar pelo diretor da escola, fazendo o público acreditar que o Principal Eric Eiswert havia feito comentários racistas e antissemitas, de acordo com o The Baltimore Banner.
Dazhon Darien foi detido em um aeroporto de Baltimore na manhã de quinta-feira ao tentar embarcar em um voo para Houston com uma arma, de acordo com o Banner. Os investigadores determinaram que Darien falsificou a voz de Eiswert usando uma ferramenta de clonagem de IA. A gravação de voz de IA, que circulou amplamente nas redes sociais, fez comentários depreciativos sobre estudantes negros e a comunidade judaica.
“Com base em uma extensa investigação, os detetives agora têm provas conclusivas de que a gravação não era autêntica,” disse a polícia do Condado de Baltimore em um comunicado à imprensa. “Como parte de sua investigação, os detetives solicitaram a um analista forense contratado pelo FBI para analisar a gravação. Os resultados dessa análise indicaram que a gravação continha traços de conteúdo gerado por IA.”
Este deepfake, segundo relatos, levou a um grande clamor público, levando o Principal Eiswert a receber uma onda de mensagens de ódio e forçando sua remoção temporária da escola. A recepção da escola de Pikesville foi inundada por ligações de pais preocupados. O distrito escolar de Pikesville acabou organizando uma presença policial na escola e na casa de Eiswert para restaurar um senso de segurança.
As autoridades policiais de Baltimore dizem que o ex-diretor de esportes fez a gravação de IA para retaliar contra o diretor da escola. Um mês antes da gravação se tornar viral, o Banner relata que Eiswert iniciou uma investigação contra Darien por possível desvio de fundos da escola. Darien autorizou um pagamento de $1.916 para o treinador de basquete da JV da escola, que também era seu colega de quarto, burlando os procedimentos adequados. Darien entregou sua renúncia no início de abril, de acordo com documentos da escola.
A polícia diz que Darien foi o primeiro de três professores a receber o clipe de áudio na noite anterior à sua viralização. O Banner relata que outro professor que recebeu a gravação a enviou para alunos, veículos de mídia e a NAACP. A polícia escreveu nos documentos de acusação que Darien usou a rede da escola para procurar ferramentas OpenAI e usar grandes modelos de linguagem em várias ocasiões. No entanto, muitas pessoas usam essas ferramentas de IA nos dias de hoje. Não está claro neste momento como os investigadores foram capazes de identificar Darien como o criador desta gravação de voz.
A criação de deepfakes de áudio gerados por IA é um problema cada vez maior enfrentado pelo mundo da tecnologia. A Comissão Federal de Comunicações deu passos em fevereiro para proibir chamadas robô deepfake após um deepfake de Joe Biden enganar eleitores de New Hampshire.
Neste caso, especialistas em IA foram capazes de identificar alegadamente que o áudio do diretor de Baltimore era falso. No entanto, isso ocorreu dois meses após o áudio se tornar viral, e o dano pode já ter sido feito. Os deepfakes de IA realmente precisam ser interrompidos no início para minimizar danos, mas isso é mais fácil dito do que feito.
