El año pasado la Comisión Europea modificó la legislación para obligar a las empresas tecnológicas que prestan servicios de correo electrónico y mensajería a controlar automáticamente las conversaciones privadas de sus usuarios en tiempo real.
Supone la introducción de nuevas normas de vigilancia masiva, que hasta ahora era pública y ahora también privada.
La Comisión Europea justifica la medida con un pretexto grotesco: la lucha contra los abusos a menores. Sin embargo, el proceso automático que abarca todos los correos electrónicos y conversaciones de los usuarios significa que no necesitan una orden judicial ni tener ningún motivo para realizar las búsquedas, como por ejemplo sospechar que alguien está involucrado en algún tipo de delito.
Una vez que un algoritmo señala un contenido como sospechoso, el personal de las empresas tecnológicas, sus contratistas y la policía pueden acceder a las conversaciones y fotos privadas de un usuario, incluidas las de carácter íntimo que implican a adultos.
El algoritmo puede etiquetar falsamente los contenidos como delictivos, mientras que una foto legal del hijo de alguien tomada en una playa también podría clasificarse erróneamente como pornografía infantil.
Según datos de la policía suiza, el 90 por ciento de las denuncias basadas en algoritmos informáticos resultan ser falsas. Al mismo tiempo, en Alemania, sólo el 40 por ciento de las investigaciones por abuso infantil resultan ser de menores.
Está claro que para que el sistema funcione, los correos electrónicos y los mensajes deben estar sin cifrar, lo que significa que no sólo las empresas tecnológicas que prestan estos servicios y la policía podrán acceder a los contenidos personales: los piratas también podrán intervenir.
Es sólo el principio. Una vez establecida los mecanismos para controlar la mensajería y las conversaciones, resulta muy fácil utilizarlos para otros fines.