Filtración de documentos de Facebook de 2021

El New York Times señaló discusiones internas donde los empleados expresaron su preocupación por la difusión de contenido relacionado con la teoría conspirativa QAnon más de un año antes de las elecciones de Estados Unidos de 2020. Tras las elecciones, un científico de datos mencionó en una nota interna que el 10 por ciento de todas las visualizaciones de contenido político en Estados Unidos eran publicaciones que alegaban que las elecciones fueron fraudulentas.^[8] Entre las diez denuncias anónimas que Whistleblower Aid presentó ante la SEC en nombre de Haugen, una alegó que Facebook engañó a los inversores de la empresa y al público en general sobre su papel en la difusión de información errónea relacionada con las elecciones de 2020 y el extremismo político que causó el asalto al Capitolio de los Estados Unidos del 6 de enero.^[9][10] Haugen trabajó en Facebook desde junio de 2019 hasta mayo de 2021, comenzando dentro del Equipo de Integridad Cívica de la empresa, que se centraba en abordar e investigar sobre cómo la plataforma podía utilizarse para difundir desinformación política y información errónea, incitar a la violencia y ser objeto de abuso por parte de gobiernos maliciosos hasta que la empresa disolvió el equipo en diciembre de 2020.^[11][12]

En las semanas posteriores a las elecciones presidenciales estadounidenses de 2020, Facebook comenzó a revertir muchas medidas de cumplimiento de políticas de contenido que tenía implementadas durante las elecciones a pesar de que los datos de seguimiento internos de la empresa mostraban un aumento en el contenido que violaba las políticas en la plataforma.^[13][14]

Los archivos muestran que Facebook había estado realizando una investigación interna sobre cómo Instagram afecta a los adolescentes desde 2018. Si bien los hallazgos indican que Instagram es perjudicial para una gran parte de los usuarios jóvenes, las adolescentes se encontraban entre las más perjudicadas. Investigadores de la compañía informaron que «agravamos los problemas relacionados a la imagen corporal de una de cada tres adolescentes». Además, la investigación interna reveló que los chicos adolescentes también se vieron afectados por la comparación social negativa, cifra que se situó en el 14% de ellos en EE. UU. en 2019.^[15] Se concluyó que el uso de Instagram contribuía a problemas más específicos como la comparación social entre adolescentes.^[16] Facebook publicó parte de su investigación interna el 29 de septiembre de 2021, afirmando que estos informes desvirtuaban el propósito y los resultados de su investigación.^[17]

Los documentos filtrados muestran que Facebook formó un equipo para estudiar a los preadolescentes, se fijó un objetivo trienal para crear más productos para este grupo demográfico y encargó documentos estratégicos sobre las perspectivas comerciales a largo plazo para atraer a este grupo. Un documento de Facebook de 2020 afirma que los preadolescentes «son un público valioso pero sin explotar».^[18]

Un memorando interno analizado por The Washington Post reveló que Facebook estuvo al tanto de discursos de odio y llamados a la violencia contra grupos como musulmanes y cachemires, incluyendo fotos de cadáveres cachemires con subtítulos glorificantes en su plataforma en India. Aun así, ninguno de sus editores fue bloqueado.^[19] Los documentos revelan que Facebook ha respondido a estos incidentes eliminando publicaciones que violan su política, pero no ha realizado ningún esfuerzo sustancial para prevenir una reincidencia.^[19] Dado que el 90% de los usuarios mensuales de la red social ahora se encuentran fuera de EE. UU. y Canadá, Facebook afirma que las barreras lingüísticas son un obstáculo que impide una reforma generalizada.

En 2015, además del botón "Me gusta", Facebook introdujo otras opciones de reacción emocional, entre ellas la de "enojo".^[20] The Washington Post informó que durante tres años, los algoritmos de Facebook promovieron publicaciones que recibían reacciones de "enojo" de sus usuarios, dándoles una puntuación cinco veces mayor que la de los "me gusta" tradicionales. Años después, los investigadores de Facebook señalaron que las publicaciones con reacciones de "enojo" tenían muchas más probabilidades de ser tóxicas, polarizadoras, falsas o de baja calidad. Ignorando los frecuentes avisos internos, la compañía no diferenció la reacción de "enojo" de otras reacciones hasta septiembre de 2019, cuando su valor se redujo a cero (solo después de darse cuenta de la insatisfacción de los usuarios por el hecho de que sus publicaciones recibieran reacciones de enojo). Ha habido otros casos en los que Facebook priorizó nuevas funciones que quería promover, a pesar de que esto diera como resultado la promoción de material tóxico o radicalizador.^[21]

Los documentos revelan un programa privado conocido como "XCheck" o "cross-check" que Facebook empleó para incluir en una lista blanca las publicaciones de usuarios considerados de «alto perfil». El sistema comenzó como una medida de control de calidad, pero fue evolucionando para proteger a millones de usuarios VIP del proceso de control habitual de la compañía. XCheck permitió que celebridades y otras figuras públicas queden exentas de las sanciones que recibiría el usuario promedio por infringir las políticas. En 2019, el futbolista Neymar publicó fotos de desnudos de una mujer que lo acusó de violación, las cuales permanecieron publicadas durante más de un día. De acuerdo a The Wall Street Journal, «XCheck creció hasta incluir al menos 5,8 millones de usuarios en 2020», según documentos internos de Facebook.^[22] El objetivo de XCheck era «nunca involucrarse públicamente con nadie lo suficientemente influyente como para perjudicarte».^[23]

En 2020, el gobierno comunista de Vietnam amenazó con cerrar Facebook si la compañía no cooperaba en la censura de contenido político en el país, un gran mercado de Meta en el sudeste asiático.^[24] La decisión de cumplir con lo demandado fue aprobada personalmente por Mark Zuckerberg.^[25][26]

Según The Wall Street Journal, los documentos muestran que, en 2019, Facebook redujo el tiempo que los revisores humanos dedicaban a las denuncias de incitación al odio, recurriendo cada vez más a sus sistemas de inteligencia artificial para regular el asunto. Sin embargo, documentos internos de los empleados afirman que su IA ha sido en gran medida ineficaz y revelan dificultades para detectar vídeos de accidentes de tráfico y peleas de gallos, así como para comprender la incitación al odio en otros idiomas.^[27] Ingenieros de Facebook han estimado que su IA solo ha podido detectar y eliminar el 0,6% de «todo el contenido que infringía las políticas de Facebook contra la violencia y la incitación».^[27]

The Wall Street Journal informó que los ejecutivos de Facebook se resistieron a eliminar el sitio web de extrema derecha Breitbart News de la función de pestaña de noticias para evitar enojar a Donald Trump y a los republicanos del Congreso, a pesar de las críticas de los empleados de la compañía.^[28][29] Un estudio interno de Facebook de agosto de 2019 había descubierto que Breitbart News era la fuente de noticias menos confiable, y también clasificada como de baja calidad, entre las analizadas en los EE. UU. y Gran Bretaña.^[28]

En diciembre de 2021, The Wall Street Journal publicó noticias que señalaban las actividades de cabildeo de Meta para dividir a los legisladores estadounidenses y «enturbiar las aguas» en el Congreso, con el fin de obstaculizar la regulación tras las filtraciones de los documentos.^[32] Los grupos de presión de Facebook en Washington sugirieron a los legisladores republicanos que el filtrador de los documentos «intentaba ayudar a los demócratas», mientras que el mensaje que se dio a los demócratas fue que los republicanos «estaban centrados en la decisión de la compañía de prohibir las expresiones de apoyo a Kyle Rittenhouse», informó The Wall Street Journal. Según el artículo, el objetivo de la compañía era «enturbiar las aguas, dividir a los legisladores según líneas partidistas e impedir una alianza interpartidista» contra Facebook en el Congreso.^[33]