A polícia do condado de Baltimore prendeu o ex-diretor de atletismo da Pikesville High School na quinta-feira, alegando que ele usou um clone de voz de IA para se passar pelo diretor da escola, levando o público a acreditar que o principal Eric Eiswert havia feito comentários racistas e antissemitas, de acordo com o The Baltimore Banner.
Dazhon Darien foi detido em um aeroporto de Baltimore na manhã de quinta-feira, enquanto tentava embarcar em um voo para Houston com uma arma, segundo o Banner. Investigadores determinaram que Darien falsificou a voz de Eiswert usando uma ferramenta de clonagem de IA. A gravação de voz de IA, que foi amplamente divulgada nas redes sociais, fez comentários ofensivos sobre os alunos negros e a comunidade judaica.
Com base em uma extensa investigação, os detetives agora têm evidências conclusivas de que a gravação não era autêntica, disse a polícia do condado de Baltimore em um comunicado à imprensa. Como parte de sua investigação, os detetives solicitaram a um analista forense contratado pelo FBI que analisasse a gravação. Os resultados dessa análise indicaram que a gravação continha vestígios de conteúdo gerado por IA.
Este deepfake supostamente causou um grande alvoroço público, levando o diretor Eiswert a receber uma onda de mensagens de ódio e forçando sua remoção temporária da escola. A recepção da escola foi inundada por ligações de pais preocupados. O distrito escolar de Pikesville finalmente providenciou a presença da polícia na escola e na casa de Eiswert para restaurar um senso de segurança.
Autoridades policiais de Baltimore dizem que o ex-diretor de atletismo fez a gravação de IA para retaliar contra o diretor da escola. Um mês antes da gravação se tornar viral, o Banner relatou que Eiswert lançou uma investigação contra Darien por suspeita de roubo de fundos escolares. Darien autorizou um pagamento de $1.916 ao treinador de basquete da JV da escola, que também era seu companheiro de quarto, passando por cima dos procedimentos corretos. Darien apresentou sua renúncia no início de abril, de acordo com documentos escolares.
A polícia diz que Darien foi o primeiro de três professores a receber o áudio na noite anterior a ele se tornar viral. O Banner informa que outro professor que recebeu a gravação a enviou para estudantes, veículos de comunicação e a NAACP. A polícia escreveu nos documentos de acusação que Darien usou a rede da escola para buscar ferramentas OpenAI e utilizar grandes modelos de linguagem em várias ocasiões. No entanto, muitas pessoas usam essas ferramentas de IA nos dias de hoje. Não está claro neste momento como os investigadores conseguiram identificar Darien como o criador dessa gravação de voz.
A criação de deepfakes de áudio gerados por IA é um problema cada vez maior enfrentado pelo mundo da tecnologia. A Comissão Federal de Comunicações deu passos em fevereiro para proibir ligações automáticas deepfake após um deepfake de Joe Biden enganar os eleitores de Nova Hampshire.
Neste caso, especialistas em IA foram capazes de identificar que o áudio alegado do diretor de Baltimore era falso. No entanto, isso aconteceu dois meses depois que o áudio se tornou viral, e o dano pode já ter sido feito. Os deepfakes de IA realmente precisam ser interrompidos desde cedo para minimizar danos, mas isso é mais fácil dizer do que fazer.
