Un "lifting" para Facebook

SAN FRANCISCO – Si algo nos enseñó el testimonio de Frances Haugen —que trabajaba como científica de datos en Facebook y denunció las prácticas de la empresa— ante un subcomité del Senado de EEUU, es que no podemos confiar en que las empresas de tecnología se autorregulen. ¿Y por qué debieran hacerlo?, un principio básico de la economía moderna es que los gobiernos dictan los términos para el funcionamiento de las empresas. La verdadera pregunta es cómo pueden ejercer esa autoridad de la mejor manera cuando se trata del sector de la tecnología.

Se permitió a Facebook, Google, Amazon y otras empresas de tecnología desarrollar modelos de negocios basados en la vigilancia, que incluyen una incesante captura de datos personales —entre ellos, la ubicación geográfica— y la manipulación de los usuarios con contenidos hiperespecíficos. Y, sin embargo, como dijo Haugen, “Casi nadie fuera de Facebook sabe qué pasa dentro de Facebook”. La KGB hubiera sentido envidia.

Pero esas empresas también cumplen un propósito útil. Construyeron gran parte de la infraestructura pública de la era digital, incluidos los motores de búsqueda, los portales globales de noticias y las redes sociales, las aplicaciones de navegación por GPS, los mercados comerciales y laborales en línea, y las plataformas de películas, música y transmisión en directo.

Para permitir que las plataformas digitales mantengan su papel beneficioso al tiempo que limitamos los daños que producen, los gobiernos debieran exigirles que obtengan “licencias para operaciones digitales”. Esto tiene gran cantidad de antecedentes: desde las tiendas de alimentos y las plantas de energía nuclear, hasta las industrias farmacéuticas, las empresas tradicionales deben obtener diversas licencias y autorizaciones antes de entrar en funcionamiento, especialmente para garantizar la seguridad de sus trabajadores y clientes, del medio ambiente y de la comunidad local.

De manera similar, para recibir una licencia de operaciones digitales, las empresas tendrían que cumplir ciertas condiciones. La primera sería obtener el permiso explícito de los usuarios antes de recopilar sus datos personales, mediante un sistema de consentimiento expreso que debe renovarse periódicamente (en vez de uno de consentimiento tácito).

Desde que las empresas de tecnología desarrollaron sus primeros modelos de negocios, los datos privados de los usuarios se han convertido en su verdadera gallina de los huevos de oro. Las empresas venden perfiles psicográficos de los usuarios a los anunciantes y operadores políticos, quienes luego les envían contenidos manipuladores. También hubo filtraciones de datos. En 2014, por ejemplo, la consultora política Cambridge Analytica recolectó información de los perfiles de más de 87 millones de usuarios de Facebook y luego intentó usarla para influir sobre los votantes. Cinco años más tarde, Facebook filtró los datos privados de 530 millones de usuarios.

Los ejecutivos de las empresas de tecnología sostienen que los datos que recopilan benefician a los usuarios porque gracias a ellos les ofrecen avisos personalizados que se ajustan a sus deseos, ¿pero cuántas veces necesitamos ver anuncios de botas para senderismo, especialmente después de haberlas comprado? Los riesgos que conlleva el modelo de negocios del capitalismo de vigilancia superan con creces sus beneficios.

Los permisos para operaciones digitales también podrían exigir a las empresas que garanticen su compatibilidad con el “software intermedio” (middleware), programas de terceros que facilitan a los usuarios la gestión de su experiencia en línea. Los programas que bloquean los avisos en línea son un ejemplo; otro es una aplicación para los teléfonos inteligentes que permite a los usuarios activar o desactivar la recolección de datos y el seguimiento de sus ubicaciones según lo necesiten, con un solo botón. ¿Quieres tomar un taxi? Activa el seguimiento de tu ubicación para que el conductor sepa dónde encontrarte y luego apágalo, se acabó el seguimiento y no se guardarán datos transaccionales. Si esta funcionalidad —cuya versión limitada ahora se incluye en el iOS del iPhone de Apple— se difunde, podría terminar con el modelo de “recopilar datos para generar ganancias” de Facebook.

Otros programas intermedios podrían estar orientados a los “patrones oscuros” en el diseño de las plataformas (trucos para aumentar su uso, como la carga infinita de contenidos cuando el usuario se desplaza hacia abajo en la pantalla, la reproducción automática del contenido siguiente, las ventanas emergentes y las recomendaciones automáticas, que llevan a los usuarios a seguir mirando y haciendo clics). Las plataformas como Facebook utilizan esos “empujoncitos conductuales” para asegurarse de que los usuarios sigan viendo anuncios, que generan la mayor parte de sus 86.000 millones de dólares de ingresos anuales.

El sistema de permisos digitales también podría ayudar a solucionar el problema del monopolio de las grandes empresas de tecnología. Por ejemplo, Facebook, con sus 2.800 millones de usuarios, es dueña de WhatsApp (2.000 millones de usuarios) e Instagram (1.100 millones de usuarios). Pero, aunque los crecientes pedidos para que se apliquen las leyes antimonopolio tienen sentido, esas tres plataformas serían gigantes incluso por separado.

Un permiso digital podría ayudar a reducir la cuota de mercado de las plataformas de redes sociales, imponiendo límites estrictos al tamaño de las audiencias. Por ejemplo, cada pieza de contenido generado por los usuarios solo se podría mostrar a, digamos, mil personas como máximo (es mucha más gente de la que la mayoría de los usuarios conoce en realidad o con la que tiene contacto frecuente, por lo que difícilmente supondría una privación). El crítico de las redes sociales Tristan Harris sugiere que Facebook desactive su botón “Compartir” después de que un contenido se vea a dos “saltos” de distancia de su creador. Facebook sabe que este enfoque funciona: aplicó una versión de él durante las elecciones presidenciales estadounidenses de 2020.

Por supuesto, habría excepciones, entre ellas las noticias legítimas, información, música y videos de líderes, artistas y pensadores. Las plataformas tecnológicas ya cuentan con equipos de moderadores humanos —Facebook emplea a 15.000—, que podrían identificar esos “contenidos de interés público”. Este enfoque reduciría la difusión de noticias falsas y desinformación introduciendo la fricción necesaria en el flujo de la información, y sería un uso mucho mejor del tiempo de los moderadores que seguir jugando inútilmente a perseguir mentiras.

Un sistema de ese tipo reconoce que las plataformas como Facebook, Twitter y YouTube no son meramente “espacios públicos”, sino también editoriales y emisoras. Tienen entonces mucho más en común con The New York Times, la BBC y The Sun de lo que muchos analistas están dispuestos a admitir.

De hecho, funcionan a una escala mucho mayor que la de cualquiera de esos medios de difusión. Facebook es el mayor medio de difusión de la historia y YouTube es el mayor emisor de contenidos visuales. Un estudio detectó que unas 100 publicaciones con información falsa sobre la Covid-19 fueron compartidas 1,7 millones de veces y vistas 117 millones de veces en Facebook.

Las plataformas de redes sociales no dudaron en usar su poder como editoriales. Después del saqueo del Capitolio estadounidense el 6 de enero, decidieron dejar de publicar al por entonces presidente de EEUU, Donald Trump. A principios de este año Facebook impidió a toda Australia el acceso a las noticias a través de sus canales durante una disputa por los ingresos derivados de publicidad. Google hizo lo mismo con España en 2014.

La introducción de los permisos para operaciones digitales permitiría a las plataformas de redes sociales continuar su función como ágoras para la libre expresión de pequeños grupos de amigos, familias y socios vinculados, reduciendo drásticamente la viralización de las noticias falsas y la desinformación. Así funcionaba Facebook en sus primeros años, cuando todavía era un invento genial.

El autor es exdirector de políticas del Center for Humane Technology, y autor de siete libros sobre ética y tecnología. © Project Syndicate y Los Tiempos 1995-2021