Maestro presuntamente utilizó IA para pintar falsamente a su jefe como racista y antisemita

Un maestro de secundaria de Maryland fue arrestado después de que presuntamente utilizara inteligencia artificial para crear audio falso, plantando palabras racistas y antisemitas en la voz de su jefe, dijeron las autoridades el jueves.

Dazhon Darien, profesor de educación física y director deportivo del instituto de Pikesville, fue acusado de falsificar la voz del director Eric Eiswert en enero, según informaron las autoridades.

"Ahora tenemos pruebas concluyentes de que la grabación no era auténtica", dijo el jefe de policía del condado de Baltimore, Robert McCullough, a la prensa en Towson. "Se ha determinado que la grabación fue generada mediante el uso de tecnología de inteligencia artificial".

Darien fue acusado de perturbar las actividades escolares y otros cargos.

"Como pueden imaginar, este ha sido un momento muy difícil para (la) comunidad de Pikesville High School, el director Eiswert y su familia", dijo la superintendente de las escuelas públicas del condado de Baltimore, Myriam Rogers.

Un juez firmó el miércoles por la tarde una orden de detención contra Darien antes de que fuera capturado el jueves por la mañana en el aeropuerto internacional Thurgood Marshall de Baltimore/Washington.

Darien tenía previsto volar a Houston cuando los servicios de seguridad le preguntaron si había empaquetado correctamente su arma para el viaje, explicó McCullough.

Se buscó el nombre de Darien en los registros policiales y apareció la orden de arresto, lo que condujo a la detención del sospechoso, añadió.

El jefe de policía no llegó a precisar si Darien pretendía huir.

Darien también fue acusado de robo, represalias contra un testigo y acoso.

Él y Eiswert habían estado enfrentados por "problemas de rendimiento en el trabajo", con la posibilidad de que el contrato del sospechoso "no se renovara el próximo semestre", según la orden de detención.

"A través de su investigación, los detectives alegan que el Sr. Darien, que era director de atletismo en la escuela secundaria, hizo la grabación para tomar represalias contra el director, que había iniciado una investigación sobre el posible mal manejo de los fondos de la escuela", dijo McCullough.

Eiswert había estado haciendo un seguimiento de un pago de $1,916 que Darien supuestamente autorizó para un entrenador asistente de fútbol femenino cuando el entrenador principal y los jugadores dijeron que esa persona nunca asistió al equipo, dijo la policía.

Eiswert también había reprendido a Darien por despedir a un entrenador sin la aprobación del director, dijo la policía.

Eiswert fue ampliamente amonestado cuando el audio viral parecía captarle lanzando retórica de odio, burlándose de negros y judíos.

La voz que inicialmente se creyó que era la de Eiswert dijo que los estudiantes negros eran incapaces de "hacer pruebas para salir de una bolsa de papel", según el documento judicial.

"La grabación continuaba con comentarios despectivos sobre personas judías y dos profesores… que 'nunca deberían haber sido contratados' en la escuela", decía la orden judicial.

Eiswert siempre ha insistido en que la grabación, que había sido enviada a Darien y a otros dos profesores la noche del 16 de enero, era falsa.

El audio se difundió rápidamente en las redes sociales y "tuvo profundas repercusiones", causando "trastornos significativos para el personal y los estudiantes de PHS", según la orden de arresto.

Eiswert ha estado de baja administrativa remunerada desde que la grabación se hizo viral.

La escuela ha sido dirigida por personas designadas por el distrito desde la salida de Eiswert y los administradores temporales se quedará en el trabajo hasta el final de este año escolar, dijo Rogers.

"Trabajaremos con el director Eiswert y la comunidad de Pikesville en relación con el próximo año", añadió Rogers.

Los investigadores vincularon el correo electrónico TJFOUST9@gmail.com, utilizado para enviar ese audio, a un proveedor de servicios de Internet registrado a nombre de la abuela de Darien, según la orden judicial.

El número de teléfono de recuperación de esa cuenta de Google era un código de área 213, registrado a nombre de Darien, natural del sur de California, según la policía.

Un analista forense, contratado por el FBI, también descubrió que la grabación "contenía rastros de contenido generado por IA con edición humana a posteriori", según la orden de detención.

Se demostró que Darien había utilizado la red de las escuelas públicas del condado de Baltimore para acceder a las herramientas de OpenAI y a los servicios de chat de Microsoft Bing los días 18 y 19 de diciembre y 15 de enero, un día antes de que se enviara el clip de audio, según la policía.

Darien y los miembros de la familia del sospechoso no pudieron ser contactados inmediatamente para hacer comentarios el jueves.

El distrito escolar tratará de despedir a Darien, dijo el superintendente.

Esta nota fue publicada en inglés por NBC News. Puedes leer la historia original aquí.