Gadgetshowto
Durante los últimos 10 años, Estados Unidos ha sido testigo de 180 tiroteos en escuelas con la asombrosa cifra de 356 víctimas. Con leyes de control de armas más débiles en el país, las escuelas están recurriendo a Inteligencia artificial (IA) para proteger a los estudiantes. Pero un sistema de inteligencia artificial instalado recientemente en casi 9 escuelas públicas de EE. UU., Según Recode, generó algunas preocupaciones sobre la privacidad..
El software basado en IA se llama Appearance Search y está desarrollado por una empresa llamada Avigilon. El software es capaz de encontrar a un estudiante en el campus de una escuela, según su apariencia, edad, género, ropa y ciertos rasgos faciales..
El software permite a la administración de la escuela ubicar a un estudiante y encontrar las posibles ubicaciones donde ha estado dentro del campus donde hay cámaras de vigilancia. Utiliza descripciones físicas como edad, sexo y color de pelo de la persona. Al analizar las características, el software busca coincidencias de las otras filmaciones de video. Por lo tanto, la herramienta no puede decir quién es exactamente la persona, pero puede indicar dónde podría haber estado durante su tiempo en el área de la escuela..
Cómo funciona la búsqueda de apariencia
El software está integrado en el sistema de vigilancia de la escuela. Entonces, si un oficial de seguridad escolar es testigo de cualquier actividad estudiantil sospechosa, puede hacer clic en el cuerpo del estudiante en particular para obtener más información sobre el estudiante. El software Analizará las propiedades físicas del alumno como la ropa, el género, el color de cabello y lo que dice el Avigilon algunas características faciales. Después de analizar dichas características, el software hará coincidir la imagen con cualquier imagen que tenga características similares de otras señales de cámara..
Las preocupaciones sobre la privacidad
Como de costumbre, con el software de IA surgen preocupaciones obvias de privacidad y este software no es diferente. Muchos expertos en seguridad y privacidad han cuestionado la búsqueda de apariencia de Avigilon..
“Las personas no se comportan de la misma manera cuando están siendo observadas”, recuerda Brenda Leong, directora de IA y ética en el Future of Privacy Forum. "¿Realmente queremos que tanto los estudiantes jóvenes como los de secundaria, y cualquier otra persona, sientan que están operando en ese entorno todo el tiempo?"
Aunque se supone que este software aumenta la seguridad y disminuye la violencia en las escuelas, se usa de una manera diferente. Los administradores escolares están utilizando esta herramienta para monitorear el acoso, las violaciones del código de conducta por parte de los estudiantes y también para ayudar en las investigaciones de los empleados de la escuela..
Esta tecnologia no se basa completamente en el reconocimiento facial, sin embargo, es un software que puede reconocer ciertas características del rostro. Varoon Mathur, un académico que estudia el aprendizaje automático en el AI Now Institute, considera que Appearance Search utiliza la "detección de objetos". Mientras Logan Koepke, de la organización sin fines de lucro de derechos digitales, lo llama software de "detección de personas", ya que analiza otras características de la persona y no exclusivamente la cara.
Con este software en funcionamiento en la mayoría de las escuelas de los EE. UU., Los estudiantes nunca podrán tener privacidad. Los administradores de la escuela informaron que no ha habido informes de invasión de privacidad con respecto al software.
Pero el ex alumno de Marjory Stoneman Douglas High School (una escuela donde ya se instaló el software), Koerber dijo: “Un tiroteo en la escuela podría ocurrir en cualquier momento y en cualquier lugar. Lo sabemos. Pero, ¿necesitamos invadir la privacidad de cada persona que se matricula en una escuela en particular para evitar eso? No creo que ese sea el caso ".
