El deepfake del director de Baltimore lleva al arresto de un empleado de la escuela

El director deportivo de una escuela secundaria en el área de Baltimore fue arrestado el jueves. después de que usó software de inteligencia artificial, dijo la policía, para crear un clip de audio racista y antisemita haciéndose pasar por el director de la escuela, el director atlético de Pikesville High School, Dason Darien. La grabación, que incluye las palabras maldiciones. «Un niño negro desagradecido que no pudo salir de una bolsa de papel», en un intento de difamar al director Eric Eiswert, según el Departamento de Policía del condado de Baltimore. Un registro falso, que es Publicado en Instagram a mediados de enero. propagarse rápidamente Eso hace que las escuelas públicas del condado de Baltimore, el distrito escolar número 22 más grande del país y que atienden a más de 100.000 estudiantes, sean la oficina del sheriff que investiga al Sr. Eisvert, quien se negó a hacer comentarios. Las amenazas a su seguridad fueron abrumadoras, dijo la policía. También fue puesto en licencia administrativa del distrito escolar y ahora enfrenta cargos. incluyendo la interrupción de las operaciones escolares y el acoso al director. El Sr. Eiswert envió una solicitud de comentarios al grupo comercial de directores. Consejo de personal ejecutivo y supervisor No fue posible contactar inmediatamente a Darién para hacer comentarios. El caso del condado de Baltimore es sólo el último indicio del creciente abuso de la IA en las escuelas. Muchos casos incluyen deepfakes o vídeos, audio o imágenes alterados digitalmente que pueden parecer convincentemente reales. Desde el otoño pasado Las escuelas de todo Estados Unidos están luchando para lidiar con un preocupante incidente de deepfake en el que un estudiante usó una aplicación. «Desnudez» de IA para crear ropa falsa Fotos de sus compañeras de clase. Algunos de ellos eran estudiantes de secundaria de tan solo 12 años. Ahora, el incidente de audio falso del condado de Baltimore apunta a otro riesgo de IA para las escuelas de todo el país. Esta vez para educadores experimentados y líderes distritales. La venganza deepfake puede ocurrir en cualquier lugar de trabajo. Pero es una preocupación seria para los funcionarios escolares a quienes se les confía el cuidado y la educación de los niños. Un funcionario del distrito de Baltimore advirtió el jueves que la rápida difusión de nuevas herramientas de inteligencia artificial está superando las protecciones de las escuelas y las leyes estatales. «Estamos entrando en una nueva área de gran preocupación», dijo el ejecutivo del condado de Baltimore, Johnny Olszewski, durante los comentarios públicos sobre arresto del jueves Añadió que los líderes comunitarios deben «Mire de manera más amplia cómo se puede usar y abusar de esta tecnología para dañar a otros». El relato de la policía sobre el caso del condado de Baltimore muestra cuán peligrosa puede propagarse la desinformación en las escuelas. causando daños duraderos a educadores, estudiantes y familias. Según documentos policiales, el Sr. Darien comenzó a presentar denuncias contra el Sr. Eiswert en diciembre después de que el director comenzara a investigarlo. la policia dijo “Con el pretexto” de que la compañera de cuarto trabajaba como entrenadora asistente del equipo de fútbol femenino en Pikesville. Poco después, dijo la policía, Darien utilizó el servicio de Internet del distrito escolar para buscar herramientas de inteligencia artificial, incluidas OpenAI, desarrollador de Chatbot ChatGPT de Microsoft y Bing Chat (The New York Times demandó a OpenAI y a Microsoft, un socio, en diciembre por infracción de derechos de autor de noticias) contenido relacionado con sistemas de inteligencia artificial) A mediados de enero, el Sr. Darien envió por correo electrónico un clip de audio falso haciéndose pasar por el director a él y a otros dos empleados de la escuela secundaria. Según la policía El correo electrónico con el asunto “Director de Pikesville – Grabación perturbadora” fue enviado desde una cuenta de Gmail que parece pertenecer a un tercero desconocido. Pero está vinculado al número de celular del señor Darién. Según documentos policiales Luego, un empleado de la escuela envió el memorando falso a las organizaciones de noticias y a la Liga Nacional para el Avance de las Personas de Color. Los documentos policiales dicen que ella también se lo envió a un estudiante. “Ella sabe cómo difundir el mensaje rápidamente en las redes sociales. y en toda la escuela”, afirma el documento. Pronto, una cuenta de Instagram que rastrea el crimen local publicó audios falsos sobre el racismo. Al especificar que un “Despotricaron contra los estudiantes negros” y nombraron al director como orador. El clip de audio, que dura menos de un minuto, ha sido compartido más de 27.000 veces y tiene más de 2.800 comentarios, muchos de los cuales piden el despido del director. Y los administradores de Pikesville High, los padres enojados y los estudiantes inundaron la escuela con llamadas. La policía dijo que algunos profesores tenían miedo. “Se pueden instalar dispositivos de grabación de audio en varios lugares dentro de las escuelas” para abordar cuestiones de seguridad. El departamento de policía aumentó su presencia en la escuela. También organizaron controles de seguridad para el Sr. Eisvert, quien recibió numerosos mensajes y llamadas telefónicas amenazantes. Algunos lo amenazaron a él y a su familia con violencia. En comentarios públicos durante una reunión de la junta escolar en enero, William Burke, director ejecutivo del Consejo del Personal Administrativo y de Supervisión, dijo: que representa El director dijo que las redes sociales y los medios de comunicación brindaron una oportunidad para que los comentaristas lo condenaran. «No hay pruebas y no hay responsabilidad». «Por favor, no se apresuren a juzgar», dijo el Sr. Berg. «Por favor, hagan que la investigación sea segura y justa», concluyeron más tarde. que el clip El sonido fue modificado. Un experto dijo que había «Los rastros de contenido son generados por IA y editados por humanos después del hecho», decía el documento policial.