A polícia do condado de Baltimore prendeu o ex-diretor atlético da Pikesville High School na quinta-feira, alegando que ele usou um clone de voz de IA para se passar pelo diretor da escola, levando o público a acreditar que o diretor Eric Eiswert havia feito comentários racistas e antissemitas, de acordo com o Baltimore Banner.
Dazhon Darien foi detido em um aeroporto de Baltimore na quinta-feira de manhã ao tentar embarcar em um voo para Houston com uma arma, segundo o Banner. Investigadores determinaram que Darien falsificou a voz de Eiswert usando uma ferramenta de clonagem de IA. A gravação de voz de IA, que circulou amplamente nas redes sociais, fez comentários depreciativos sobre estudantes negros e a comunidade judaica.
Com base em uma extensa investigação, os detetives agora têm evidências conclusivas de que a gravação não era autêntica, disse a Polícia do Condado de Baltimore em um comunicado à imprensa. Como parte de sua investigação, os detetives solicitaram a um analista forense contratado pelo FBI que analisasse a gravação. Os resultados dessa análise indicaram que a gravação continha vestígios de conteúdo gerado por IA.
Esse deepfake supostamente causou uma onda de indignação pública, levando o diretor Eiswert a receber uma enxurrada de mensagens de ódio e forçando sua remoção temporária da escola. A recepção da escola em Pikesville foi inundada de chamadas de pais preocupados. O distrito escolar de Pikesville acabou organizando uma presença policial na escola e na casa de Eiswert para restaurar um senso de segurança.
Autoridades policiais de Baltimore afirmam que o ex-diretor atlético fez a gravação de IA como retaliação contra o principal da escola. Um mês antes da gravação viralizar, o Banner relata que Eiswert iniciou uma investigação contra Darien por suspeita de desvio de fundos escolares. Darien autorizou um pagamento de $1.916 ao técnico de basquete JV da escola, que também era seu colega de quarto, contornando os procedimentos corretos. Darien apresentou sua renúncia no início de abril, de acordo com documentos escolares.
A polícia diz que Darien foi o primeiro de três professores a receber o áudio na noite anterior à viralização. O Banner relata que outro professor que recebeu a gravação a enviou para alunos, veículos de imprensa e a NAACP. A polícia escreveu em documentos de acusação que Darien usou a rede da escola para pesquisar ferramentas da OpenAI e usar modelos de linguagem grandes em várias ocasiões. No entanto, muitas pessoas usam essas ferramentas de IA hoje em dia. Não está claro neste momento como os investigadores conseguiram identificar Darien como o criador desta gravação de voz.
A criação de deepfakes de áudio geradas por IA é um problema cada vez maior enfrentado pelo mundo da tecnologia. A Comissão Federal de Comunicações tomou medidas em fevereiro para proibir chamadas telefônicas falsas de deepfake após um deepfake de Joe Biden enganar os eleitores de New Hampshire.
Neste caso, especialistas em IA conseguiram identificar o áudio supostamente do diretor de Baltimore como falso. No entanto, isso ocorreu dois meses após a viralização do áudio, e o dano pode já ter sido feito. Os deepfakes de IA realmente precisam ser interrompidos desde cedo para minimizar danos, mas isso é mais fácil dizer do que fazer.
