El crimen previo ya está aquí. Cómo la policía asigna un “puntaje de amenaza” en Facebook

Una historia reciente de El Washington Post le dio al público una rara visión interna de las capacidades de monitoreo de las redes sociales del departamento de policía de Fresno, que está probando una controvertida pieza de software llamada Beware. La pieza ha causado un gran revuelo en la supuesta proclividad del software para las violaciones de las libertades civiles..

Pero, ¿en qué se diferencia este programa de otros monitores de las redes sociales que realiza la policía? ¿Cuidado con una amenaza real de libertades civiles? ¿O es que todo esto es exagerado? ¿Y qué puedes hacer para evitar que la policía investigue tus publicaciones en las redes sociales??

Una herramienta obvia para los departamentos de policía

Es probable que los agentes de la ley hayan estado usando las redes sociales para la recopilación de información desde que se convirtió en una práctica general, incluso en 2006, la policía arrestó a un menor de edad en Colorado después de que publicara fotos de él mismo en MySpace con varias armas de fuego..

El uso de las redes sociales en las investigaciones solo se ha vuelto más común desde entonces, y hay varias historias que demuestran su eficacia. En 2014, la policía de Nueva York incautó más de 250 armas vendidas ilegalmente después de una extensa investigación que comenzó cuando los agentes notaron que un aspirante a rapero había publicado imágenes de armas en su estudio en Instagram..

Ha habido innumerables informes de estudiantes arrestados por publicar bombas y otras amenazas contra sus escuelas, y muchos arrestos después de publicaciones que abogan por la violencia contra la policía. Incluso las amenazas de broma Cómo usar Twitter sin arruinar Cómo usar Twitter sin arruinar Twitter puede ser un toque críptico, y es fácil cometer errores de vez en cuando, incluso si es un usuario antiguo. Aquí hay algunos errores comunes, y cómo evitarlos. Leer más han resultado en arrestos. Esto no se limita a los Estados Unidos, tampoco; Hay un amplio precedente en el Reino Unido por haber sido arrestado por haber dicho algo “extremadamente ofensivo” o amenazante en las redes sociales.

Los medios sociales se han convertido en un lugar importante para las posturas y amenazas de pandillas, y la policía en ciudades como Chicago y Nueva York ha realizado una cantidad sorprendente de arrestos basados ​​en publicaciones de Facebook, YouTube e Instagram en las que miembros de pandillas están haciendo algo ilegal o expresando sus opiniones. intento de hacerlo.

En general, el monitoreo de las redes sociales es una opción obvia para las autoridades policiales: si las personas publican sus proezas ilegales en Facebook, donde todo el mundo puede verlas, valdrá la pena monitorearlas..

El problema con el cuidado: un enfoque algorítmico

Entonces, si la policía ha estado monitoreando las redes sociales durante años, ¿por qué el enfoque de Fresno está en los titulares? Parte de la respuesta se encuentra en el hecho de que Beware utiliza un enfoque algorítmico para monitorear las redes sociales. Muchas herramientas simplistas de monitoreo de redes sociales (incluso aquellas utilizadas por los comercializadores de redes sociales) Su guía para la comercialización de las redes sociales Su guía para la comercialización de las redes sociales En este momento, hay una avalancha de personas y empresas que acuden a los medios de comunicación social. La competencia es feroz ninguna empresa puede perder tiempo o dinero haciéndolo mal. Lea más) simplemente busque palabras clave o patrones específicos en los datos, algo que los agentes de policía hacen en una escala mucho más pequeña.

Pero cuidado, cuando se le da la información de un individuo, calcula un “puntaje de amenaza” Basado en, según el sitio web de Intrado.,

… Miles de millones de registros comerciales disponibles (públicamente) en cuestión de segundos, alertando a los servicios de respuesta ante situaciones potencialmente peligrosas mientras se dirigen a, o en el lugar de, una solicitud de asistencia al 9-1-1.

Los miles de millones de puntos de datos provienen de publicaciones en redes sociales, arrestos y otros registros públicos, bases de datos comerciales y muchos otros tipos de datos, aunque exactamente de dónde provienen y cómo se traducen en una puntuación de amenaza verde, amarilla o roja. Es un secreto comercial custodiado por Intrado, el fabricante del software..

Sin embargo, la forma en que la policía usa este sistema de puntuación es obvia: si una persona que llama al 911 o alguien involucrado en la llamada tiene una puntuación de amenaza amarilla o roja, los agentes serán más cautelosos al entrar. Lo que podría significar estar más armados y preparados. para problemas, una mentalidad que podría tener serias consecuencias para la persona que llama.

En 2007, la policía estaba investigando el robo de dos consolas PlayStation en un campus universitario cuando descubrieron imágenes del sospechoso posando con varias armas de fuego en las redes sociales. Enviaron un equipo SWAT a la casa del sospechoso, y otro estudiante terminó muerto luego de que un oficial confundió los sonidos del ariete que se utiliza para obtener la entrada a la casa por disparos. Este es exactamente el tipo de respuesta fuertemente armada basada en la información obtenida de las redes sociales que preocupa a la gente..

los EnviarLa historia mencionó que una mujer que tuiteó sobre el juego Rabia y un hombre que vivía en una casa anteriormente ocupada por una persona de interés, ambos tenían niveles elevados de amenaza. Un oficial de carne y hueso no habría pensado en ninguna de estas personas, pero el software de Intrado podría poner a los oficiales en alerta si respondieran a una llamada de cualquiera de estos ciudadanos..

Lo que preocupa a mucha gente es que los cálculos de puntuación de amenaza se realizan mediante un algoritmo desarrollado por una sola empresa que no compartirá sus ecuaciones en el corto plazo. Cuídese, es una caja negra total. Algoritmos ya controlan partes significativas de nuestras vidas 4 Algoritmos de aprendizaje automático que dan forma a tu vida 4 Algoritmos de aprendizaje automático que dan forma a tu vida Es posible que no te des cuenta, pero el aprendizaje automático ya está a tu alrededor y puede ejercer un grado sorprendente de influencia en tu vida . No me crees Te sorprenderías. Lea más, pero el hecho de que ahora nos pongan en una situación peligrosa está empezando a llamar la atención de la gente.

Los enfoques algorítmicos para la vigilancia policial han generado una gran cantidad de críticas en el pasado, con algunos críticos que dicen que son propensos a los perfiles raciales, y otros dicen que las herramientas son planas. “racista.” La investigación sobre el tema no es concluyente, ya que algunos estudios muestran una disminución en el crimen a corto plazo y otros no muestran un efecto significativo de la tecnología predictiva.

Un legado de vigilancia

El analisis de “miles de millones” de puntos de datos trae a la mente algunos programas anteriores emprendidos por el gobierno de los Estados Unidos.

Total Information Awareness (TIA) fue una iniciativa emprendida por la Oficina de Information Awareness a principios de la década de 2000 que recopilaba información sobre compras con tarjeta de crédito, suscripciones a revistas, navegación web, correo electrónico, calificaciones académicas, viajes, eventos legales y otros tipos de información. para el almacenamiento en una base de datos central. Incluso después de ser rebautizado como Concientización de Información Terrorista, TIA se cerró debido a la indignación pública por la idea francamente orwelliana..

Uno de los proyectos de investigación de DARPA en el que no lo creerá: investigación futura de DARPA en computadoras avanzadas que no lo creerá: investigación de futuro en DARPA en computadoras avanzadas DARPA es una de las partes más fascinantes y secretas del gobierno de los Estados Unidos. Los siguientes son algunos de los proyectos más avanzados de DARPA que prometen transformar el mundo de la tecnología. Leer más examinó un sistema similar llamado LifeLog que recopilaría ...

... todas las actividades y relaciones que una persona realiza. Esto incluye las compras con tarjeta de crédito, los sitios web visitados, el contenido de las llamadas telefónicas y los correos electrónicos enviados y recibidos, los escaneados de faxes y correos postales enviados y recibidos, los mensajes instantáneos enviados y recibidos. , lectura de libros y revistas, selecciones de radio y televisión, ubicación física registrada a través de sensores GPS portátiles, [y] datos biomédicos capturados a través de sensores portátiles.

Obviamente, Beware y otras soluciones de monitoreo de redes sociales no son tan avanzadas, y no tienen el mismo potencial de violación a la privacidad. Sin embargo, el patrón del gobierno de EE. UU. De crear piezas de software que violan la privacidad que no son bien entendidas por el público o que se mantienen en secreto hace que mucha gente se ponga nerviosa. Y el monitoreo de las redes sociales por parte de la policía parece que podría convertirse en un campo de batalla de libertades civiles.

Muchas personas ya han tomado partido. La gran cantidad de programas de monitoreo de redes sociales disponibles indican que muchos departamentos de policía y otras organizaciones (incluidas las escuelas) están interesados ​​en usar esta tecnología.

Por otro lado, grupos como la ACLU ya se han manifestado en contra de la tecnología, diciendo que podría permitir a los departamentos de policía “poner a las personas bajo sospecha simplemente por decir lo que piensan en línea.” La publicación del blog de la ACLU sobre el tema se tituló provocativamente “Este software de vigilancia probablemente esté espiando el activismo del hashtag de #BlackLivesMatter: #powerful or #pointless? Hashtag Activismo: #powerful or #pointless? #BringBackOurGirls, #ICantBreathe y #BlackLivesMatter han visto una amplia cobertura internacional en el último año, pero ¿son las etiquetas un medio eficaz de activismo? Lee mas ,” aunque hay poca evidencia de que este sea el caso.

Y, por supuesto, toda la información obtenida por Beware es “comercialmente disponible.” Es difícil que alguien sepa exactamente lo que eso significa, ya que los tipos de datos que venden las redes sociales parecen cambiar todo el tiempo. Como hemos visto en el pasado, no es difícil obtener información que un usuario cree que es privada. Prepare su cuenta Privacidad para la búsqueda de gráficos de Facebook [Consejos semanales de Facebook] Prepare su cuenta Privacidad para la búsqueda de gráficos de Facebook [Consejos semanales de Facebook] Cada vez que Facebook lanza una nueva función para aprender más sobre nuestros amigos, muchas personas se dan cuenta de que su configuración de privacidad ya no es adecuada. Su última nueva característica, Facebook Graph Search, no es una excepción:… Lea más simplemente haciendo las preguntas correctas y utilizando las herramientas adecuadas.

No sería la primera persona en asociar Beware y otras soluciones de monitoreo de redes sociales con Informe de la minoríaPre-crimen o 1984El crimen del pensamiento.

La sofisticación de un software como Beware está llegando al punto en el que probablemente pueda sacar conclusiones basadas en lo que no se dice, pero solo implica. Intrado y otros fabricantes no quieren que su software esté vinculado a novelas distópicas de ciencia ficción, pero la conexión es obvia..

Lecciones aprendidas

Ya sea que esté preocupado por las posibles violaciones de la privacidad causadas por el software de monitoreo de redes sociales en manos de las autoridades policiales o no, esto debería servir como un recordatorio de que todo lo que publique en Facebook o Twitter no solo está disponible para sus amigos. Está ahí para siempre, y es probable que esté en manos de una gran variedad de personas y empresas..

Lo mejor que puedes hacer es no publicar cosas estúpidas en las redes sociales. No hagas bromas sobre hacer algo ilegal. No abogue por la violencia contra la policía o los miembros de las fuerzas armadas. No publiques fotos tuyas que puedan interpretarse como amenazantes (especialmente con armas, simplemente no publiques fotos tuyas con armas). Gran parte de esto es de sentido común, pero Fresno y su uso de Cuidado deben subrayar la importancia de este tipo de medidas de protección..

Este es también un tema importante que se debe tener en cuenta en las próximas elecciones presidenciales de los EE. UU. 6 Recursos para ayudarlo a realizar un seguimiento de la Elección presidencial de los EE. UU. una eleccion Sea un votante informado y tome en serio esta importante tarea con la ayuda de estas herramientas. Lea más (donde las redes sociales también son una herramienta extremadamente importante. Las campañas políticas lo están rastreando en Facebook. Aquí le explicamos por qué las campañas políticas lo están rastreando en Facebook. Aquí está la razón. grupo que observa, analiza y capitaliza cada movimiento que haces en Facebook: activistas políticos. Leer más, curiosamente). Este problema bien podría llegar a un punto crítico poco después de que un nuevo presidente tome juramento, y la forma en que se desarrolle a partir de ahí puede depender de quién está sentado en la Oficina Oval. Puede parecer un problema menor ahora, pero esto podría ser un gran problema en el futuro cercano. Vale la pena mantener un ojo en.

¿Qué piensas sobre los departamentos de policía que monitorean las redes sociales? ¿Sientes que están justificados en el uso de un enfoque algorítmico? ¿O crees que es probable que conduzca a perfiles raciales y juicios inexactos? ¿Deberíamos preocuparnos por la progresión de este tipo de software??

Este es un tema complicado, y ni siquiera estoy totalmente seguro de cómo me siento al respecto. Deja demasiado en manos de un algoritmo que vigila a las personas sin su conocimiento. Pero también podría ayudar a salvar la vida de los oficiales que se encuentran en situaciones peligrosas. Ayúdame a comentarlo en los comentarios a continuación..

Créditos de la imagen: Scott Cornell a través de Shutterstock.com, Ivelin Radkov a través de Shutterstock.com.

Explorar más sobre: ​​Facebook, Vigilancia.