Logo de Facebook

 

Después del impactante testimonio brindado por Frances Haugen, ex gerente de producto de Facebook, se alzan las voces para regular las redes sociales y los algoritmos en general

El martes, Frances Haugen, que fue contratada por Facebook para combatir la interferencia en las elecciones a través de esa red social, rindió testimonio ante el Senado, después de haber revelado información interna de la empresa que fue publicada en el Wall Street Journal.

Haugen señaló que la compañía no parece estar dispuesta a aceptar iniciativas para mejorar la seguridad si eso dificulta la atracción y participación de los usuarios. Dijo que su forma de pensar sobre las redes sociales cambió después de que perdió una amistad que pasaba cada vez más tiempo leyendo foros en línea sobre cómo las fuerzas oscuras estaban manipulando la política. "Una cosa es estudiar la desinformación, y otra es perder a alguien", dijo Haugen.

Los documentos filtrados por Haugen muestran, una y otra vez, que los investigadores de Facebook han identificado los efectos nocivos de la plataforma. Y una y otra vez, a pesar de las audiencias del Congreso, sus propias promesas y numerosas exposiciones en los medios, la empresa no ha hecho nada para combatirlas.

Uno de esos estudios revisó durante los últimos tres años los efectos de Instagram en los jóvenes y las adolescentes son las más perjudicadas. “El treinta y dos por ciento de las adolescentes dijeron que cuando se sentían mal con sus cuerpos, Instagram las hacía sentir peor”, escribieron los investigadores. Según los informes, Facebook también descubrió que el 14% de los niños en los EE. UU. dijeron que Instagram los hacía sentir peor consigo mismos.

Según el informe, los investigadores advirtieron que la página explorar de Instagram puede llevar a los usuarios hacia contenido que puede ser dañino. La aplicación también publica solo las mejores imágenes y momentos, y funciona como un producto adictivo. Los usuarios jóvenes son la clave del éxito de Instagram. Más del 40% tienen 22 años o menos.

Haugen testificó ante el Congreso que Facebook se ha centrado más en las ganancias que en la seguridad y dijo que los legisladores deben ir más allá de algunos de los recursos legislativos que se están considerando. “Los alto ejecutivos de Facebook no harán los cambios necesarios” dijo a los senadores.

En otro informe revelado por el Wall Street Journal, comentado en marzo por el Senado norteamericano en otra audiencia para analizar la regulación de la desinformación en las redes sociales, se destaca que la compañía era muy consciente de que su producto, específicamente su motor de recomendaciones, avivó la división y la polarización, pero a pesar de las advertencias sobre el efecto que esto podría tener en la sociedad, los ejecutivos de Facebook ignoraron los hallazgos y en gran medida ha tratado de eximirse de responsabilidad.

"Nuestros algoritmos explotan la atracción del cerebro humano por la división", se lee en el estudio. "Si no se controla", se advierte, Facebook proporcionaría a los usuarios "contenido cada vez más divisivo en un esfuerzo por captar la atención del usuario y aumentar el tiempo en la plataforma".

“Vi a Facebook enfrentarse repetidamente a conflictos entre su propio beneficio y nuestra seguridad. Facebook resolvió consistentemente estos conflictos a favor de sus propias ganancias”, dijo Haugen al subcomité del Senado. “La gravedad de esta crisis exige que rompamos con los marcos regulatorios anteriores”, dijo. “Los ajustes a las protecciones de privacidad obsoletas... no serán suficientes".

En respuesta, algunos proponen regular los algoritmos de los gigantes de la tecnología. Así lo hace Roddy Lindsay, un ex científico de datos en Facebook, en una columna de opinión publicada en el New York Times. Para él la solución es muy fácil: las empresas que implementan amplificación algorítmica personalizada deben ser responsables del contenido que promueven esos algoritmos.

Lindsay destaca que a finales de los 90, los usuarios de Internet descubrían contenido a través de los motores de búsqueda. Estos primeros servicios no tenían ningún mecanismo para que el contenido marginal llegara a una audiencia más amplia, porque requería que el usuario buscara intencionalmente una palabra clave o navegara a un sitio web o foro en particular.

Pero eso cambió cuando se adoptaron dos desarrollos tecnológicos clave: la personalización, impulsada por la recopilación masiva de datos del usuario a través de cookies y sistemas de Big Data, y la amplificación algorítmica, el uso de una poderosa inteligencia artificial, para seleccionar el contenido que se muestra a los usuarios.

Para Lindsay estas herramientas por si mismas no son malas, ya que han permitido “nuevos y maravillosos servicios de Internet”, pero cuando la personalización y la amplificación algorítmica se usa para productos como el News Feed de Facebook, For You de TikTok y el motor de recomendaciones de YouTube, “crean bestias incontrolables para atraer la atención. Estos algoritmos,… perpetúan los prejuicios y afectan a la sociedad de formas que apenas son comprendidas por sus creadores, y mucho menos por los usuarios o reguladores”.

Lindsay destaca que las plataformas de redes sociales tienen un incentivo económico fundamental para mantener a los usuarios comprometidos. Esto asegura que estos feeds continuarán promoviendo el contenido más excitante e inflamatorio, y crea una tarea imposible para los moderadores de contenido, que luchan por controlar el contenido viral problemático en cientos de idiomas, países y contextos políticos.

El analista coincide con la declaración de Haugen al Senado norteamericano: "Si reformamos la 230 (Sección 230 de la Communications Decency Act, Ley para la Decencia en las Comunicaciones) para hacer que Facebook sea responsable de las consecuencias de sus decisiones de clasificación intencionales, creo que se desharían de la clasificación basada en el compromiso".

El testimonio en el Congreso de Haugen, también ha intensificado las exigencias en Europa de nuevas leyes y regulaciones dirigidas a Facebook y otros gigantes de Silicon Valley, consideradas por muchos como las más estrictas y de mayor alcance en el mundo.

 “Se ha destruido toda la confianza que pudiera haber en la empresa”, dijo Alexandra Geese, legisladora en el Parlamento Europeo de Alemania. “Ahora sabemos que tenemos que regular porque la empresa no dejará de romper cosas. Y romper cosas significa romper personas y democracias".

Una de las propuestas, es la Ley de Servicios Digitales, que incluye requisitos de transparencia, requiriendo que Facebook y otras grandes plataformas tecnológicas revelen detalles a los reguladores e investigadores externos sobre sus servicios, algoritmos y prácticas de moderación de contenido.

Otra propuesta europea es la llamada Ley de Mercados Digitales, que establece una nueva regulación de competencia para las plataformas tecnológicas más grandes, incluida la restricción de su capacidad para usar su poder de dominio para obtener una ventaja sobre los rivales en otra categoría de productos.

La Opinión de la Comisión de Ética de Datos de Alemania sugiere una regulación por niveles basada en el riesgo y que estas propuestas deben implementarse como una nueva regulación de la UE directamente efectiva sobre estándares algorítmicos.

Sobre este tema, China está pasando a los hechos y ha anunciado que emitirá reglas de administración de algoritmos para proteger los derechos de consumidores y usuarios.

Los algoritmos no sólo se usan en las redes sociales, sino también son utilizados por las instituciones financieras y los gobiernos para tomar decisiones, pero a pesar de las afirmaciones de algunos, los algoritmos no están libres de sesgos, de hecho, ocurre lo contrario. Los seres humanos codifican los algoritmos y, conscientemente o no, los siembran con sus propios prejuicios.

Como resultado, los algoritmos siempre tienen el potencial de exacerbar o replicar el sesgo humano, y eso es lo que explota Facebook y otras redes sociales en su beneficio, sin importar las consecuencias.

Ya sabemos que las redes sociales dañan, especialmente a los jóvenes, ahora tenemos que remediarlo.

Más información nytimes.com

miabogadoenlinea.net

Se permite la reproducción parcial o total, concediendo crédito a miabogadoenlinea.net