Juicio a META: Análisis del nuevo diseño

El documento judicial establece una cifra máxima de aproximadamente US$16.680 millones, de los cuales unos US$12.700 millones son garantizados y el resto depende de que otras plataformas (Snapchat, TikTok y YouTube) adopten determinadas medidas.

1. ¿Qué plataformas alcanza?

• Instagram
• Facebook

Y se aplica a los “Teen Users”, definidos en el acuerdo como usuarios de 13 a 17 años, en los estados y territorios participantes de EE.UU.

No es un acuerdo que, por sí mismo, imponga estas modificaciones a WhatsApp ni a Threads. La eventual adopción de medidas similares por parte de TikTok, YouTube o Snapchat (Core Industry Members) activa la segunda fase del acuerdo. (WIRED)

2. El cambio más importante: Meta dejaría de tratar el tiempo de uso como una simple recomendación y produciría un bloqueo taxativo de la plataforma a sus usuarios.

Límite diario de 2 horas

Para adolescentes, Instagram + Facebook tendrán un límite acumulativo predeterminado de 2 horas diarias.

Es decir: 1 hora en Instagram + 1 hora en Facebook = 2 horas.

No son dos horas por aplicación.

Además:

• el contador se reinicia a las 00:00, según la zona horaria del dispositivo;
• si el adolescente tiene cuentas vinculadas, el límite se aplica conjuntamente;
• Meta debe detectar determinados usos de cuentas secundarias y evitar que se utilicen para eludir el límite;
• una vez agotado el tiempo, se bloquean las funciones comprendidas en el límite hasta el reinicio del contador;
• el adolescente no puede levantar por sí solo el límite;
• para establecer un límite menos restrictivo se necesita autorización de un adulto supervisor. (Acta Gobierno de Massachusetts)

Una excepción muy importante.

El límite no contabiliza:

• mensajería (Messenger);
• determinados contenidos audiovisuales de larga duración (películas, series);
• configuración/settings (el tiempo que permanezcan en la interfaz de configuración).

El acuerdo define Longform Content como contenido de audio o vídeo de 22 minutos o más.

Esto es importante porque significa que el acuerdo no establece un límite de dos horas para todo el tiempo que un adolescente puede permanecer dentro de Meta. (WIRED) Es decir, no contabiliza el consumo de tiempo contenido largo de audio y video.

3. ¿Qué ocurre cuando se alcanzan las dos horas?

La interfaz debe impedir que el adolescente simplemente siga utilizando Facebook o Instagram.

El acuerdo también establece que Meta:

• no puede sugerirle que pase a otra plataforma de Meta;
• no puede utilizar el bloqueo para incentivarlo a pasar a Messenger;
• puede mostrar una pantalla neutral indicando que determinadas partes del servicio siguen disponibles (ej. puede usar una pantalla “neutral” indicando que el Messenger sigue activo);
• no puede utilizar mensajes o configuraciones para proporcionar una vía indirecta de acceso al contenido bloqueado.

Es decir, el límite modifica la arquitectura de navegación, no solamente el contador de “tiempo de pantalla”. (Acta Gobierno de Massachusetts)

4. “Night Mode”: bloqueo completo entre medianoche y las 6 AM

Instagram y Facebook deberán incorporar un modo nocturno predeterminado.

Para adolescentes:

00:00 → 06:00

queda bloqueado el acceso a las funciones principales de la plataforma.

Esto incluye, por ejemplo:

• Feed;
• Stories;
• Explore;
• Reels;
• publicación de contenido;
• visualización de contenido.

La mensajería y algunas funciones de configuración permanecen accesibles, pero no pueden utilizarse como puerta trasera para acceder al resto de la plataforma. (TechCrunch)

Y las notificaciones empiezan antes:

El bloqueo de acceso es de 00:00 a 06:00, pero las notificaciones deben silenciarse desde:

22:00 → 07:00

salvo determinadas comunicaciones urgentes de seguridad, integridad de cuenta, etc. (Acta Gobierno de Massachusetts)

5. “School Mode”: las notificaciones desaparecen durante el horario escolar

Durante el período escolar definido por el acuerdo, Meta deberá desactivar por defecto las push notifications para adolescentes.

La ventana es:

08:00 → 15:00

durante los días escolares.

Excepciones:

• mensajes;
• seguridad de la cuenta;
• integridad de la plataforma (los contenidos y publicaciones).

Los padres podrán modificar:

• el horario escolar;
• el nivel de restricción;
• e incluso restringir todo salvo mensajería. (Acta Gobierno de Massachusetts)

Esto afecta específicamente la interfaz de notificaciones, no significa que Instagram o Facebook desaparezcan completamente durante esas horas.

6. Pausas obligatorias de uso

Este es uno de los cambios más interesantes desde el punto de vista del diseño de atención.

Meta deberá introducir:

Después de 15 minutos

Una notificación/intervención visible al completar 15 minutos de uso continuo.

A los 60 minutos

Primera Productive Pause.

A los 90 minutos

Segunda Productive Pause.

Estas intervenciones deben aumentar progresivamente en duración o prominencia.

Y no son simplemente recomendaciones de “Take a Break”: el acuerdo establece que estarán activadas por defecto. (Acta Gobierno de Massachusetts)

Además, Meta deberá entregar al auditor información sobre:

• qué hacen los adolescentes frente a la pausa;
• si continúan utilizando la plataforma;
• comportamiento de quienes utilizan más de 60 minutos;
• comportamiento de quienes utilizan más de 90 minutos.

Por lo tanto, se introduce también una lógica de evaluación de eficacia del mecanismo de interrupción. (Acta Gobierno de Massachusetts)

7. El Feed algorítmico deja de ser la única experiencia posible

(Cambio fundamental)

Dentro de los 4 meses posteriores a la entrada en vigor, Meta deberá ofrecer a los adolescentes una opción razonablemente accesible para establecer como Feed principal un:

Non-Personalized Feed

Es decir, un feed (algoritmo) que no sea personalizado por los sistemas de recomendación de Meta. (Acta Gobierno de Massachusetts)

¿Qué significa en la interfaz?

El adolescente podrá elegir una experiencia en la que el contenido no sea seleccionado fundamentalmente mediante:

• historial de interacción;
• engagement;
• recomendaciones algorítmicas;
• optimización personalizada.

El acuerdo lo aproxima a un feed cronológico basado en las cuentas que sigue o con las que mantiene vínculos.

Pero atención a una diferencia importante: No se elimina el algoritmo.

El feed algorítmico continúa siendo la experiencia predeterminada.

Lo que cambia es que el adolescente obtiene el derecho a convertir el feed no personalizado en su home feed.

Además:

• Meta debe informar de esta posibilidad;
• el primer aviso debe aparecer dentro de los 10 días posteriores a la identificación como adolescente;
• luego debe repetirse cada 90 días;
• el adolescente puede desactivar esos recordatorios;
• los padres pueden imponer el feed no personalizado;
• si lo hace el padre, el adolescente necesita autorización parental para volver a una configuración menos restrictiva. (Acta Gobierno de Massachusetts)

Esto es bastante distinto de lo que algunos titulares dijeron: el acuerdo no elimina el feed algorítmico ni convierte automáticamente a Instagram en cronológico.

8. Autoplay: se convierte en una configuración controlable

Los adolescentes podrán desactivar el autoplay.

La lógica es:

antes: el contenido audiovisual puede comenzar automáticamente;

después: el adolescente puede exigir una acción deliberada —por ejemplo, tocar o deslizar— para continuar reproduciendo contenido.

Los padres también podrán establecer esta configuración como parte de los controles protectores.

Pero nuevamente: autoplay no queda prohibido por defecto. Es una opción que puede activarse/desactivarse.

Esto es importante porque el acuerdo no prohíbe el autoplay ni el infinite scroll. (Techdirt)

9. Likes y reacciones: desaparecen por defecto

Para adolescentes:

• se oculta el número de likes;
• se oculta el número de reacciones;
• tanto en publicaciones propias como de terceros.

La configuración viene desactivada por defecto.

Y el adolescente no puede simplemente volver a mostrar esos números: necesita autorización de un padre/supervisor. (Acta Gobierno de Massachusetts)

Esto afecta directamente las interfaces:

• Feed;
• publicaciones;
• perfiles;
• interacción social;
• métricas de engagement visibles.

Es probablemente uno de los cambios más claros sobre el mecanismo de comparación social.

10. Se eliminan determinados filtros de belleza

Meta deberá impedir que los adolescentes utilicen: Cosmetic Procedure Filters y determinados filtros de: Extreme Makeup

El acuerdo define los primeros como filtros o efectos AR que modifican, esculpen, redefinen o idealizan el rostro de una manera que no podría lograrse sin procedimientos cosméticos o técnicas extremas de maquillaje. (Techdirt)

Afecta principalmente a la interfaz de cámara/creación de contenido y biblioteca de filtros/efectos.

No significa que desaparezcan todos los filtros de Instagram.

11. IMPORTANTE: Meta tendrá que saber si quien usa la plataforma es adolescente

El acuerdo establece un sistema mucho más robusto de:

Age Assurance

Meta deberá desarrollar mecanismos para determinar si un usuario es:

• menor de 13;
• adolescente de 13–17;
• adulto.

Esto es particularmente importante porque el acuerdo no se basa exclusivamente en la fecha de nacimiento que declara el usuario.

Meta tendrá que utilizar mecanismos adicionales para identificar posibles falsificaciones de edad (Bills and Benches). Estos mecanismos aún no están definidos.

12. ¿Qué pasa si alguien declara ser adulto pero Meta sospecha que es adolescente?

Meta tendrá que utilizar señales y modelos para detectar cuentas que puedan pertenecer a adolescentes aunque hayan proporcionado una fecha de nacimiento adulta.

Esto incluye el desarrollo de modelos de identificación de edad y procedimientos de revisión.

Los nuevos usuarios que todavía no hayan podido ser clasificados reciben protecciones predeterminadas y, después de determinado período, pueden ser tratados como adolescentes si su edad permanece sin verificar. (Bills and Benches)

13. El sistema de edad tendrá métricas de precisión

No alcanza con decir “tenemos un sistema de IA”.

El acuerdo fija umbrales de precisión con altos estándares estadísticos de detección de edad.

Para determinadas metodologías, Meta deberá alcanzar, entre otros, niveles máximos de falsos positivos del orden de:

• 3% para usuarios de 13–15 años;
• 10% para usuarios de 16–17 años;

con exigencias diferentes para métodos propios y comerciales y objetivos más estrictos posteriormente.

Además:

• los sistemas deben ser evaluados anualmente;
• deben analizarse precisión;
• diferencias demográficas;
• privacidad;
• seguridad;
• posibilidad de evasión;
• confiabilidad técnica.

14. Meta tendrá que detectar mejor a menores de 13

Meta deberá mejorar los mecanismos destinados a identificar cuentas que puedan pertenecer a menores de 13 años.

Entre las medidas contempladas están:

• análisis de señales;
• modelos específicos;
• revisión de cuentas eliminadas;
• análisis de redes de contactos asociadas a cuentas eliminadas;
• mecanismos para detectar cuentas relacionadas;
• investigación de mecanismos de evasión.

(Bills and Benches)

La finalidad es evitar el clásico mecanismo:

“Tengo 12 años → pongo 18 años → entro como adulto”.

15. El sistema de edad tendrá límites y protección de datos

El acuerdo también intenta limitar el abuso del propio mecanismo de verificación.

Entre otras cosas:

• límite al número de intentos de verificación realizados por el usuario;
• investigación de intentos de evasión;
• minimización de los datos recogidos;
• medidas de seguridad;
• eliminación de datos cuando ya no sean necesarios;
• prohibición de utilizar determinados datos de menores de 13 para publicidad, marketing o optimización algorítmica;
• mecanismo de apelación cuando alguien es identificado incorrectamente como menor.

(Bills and Benches)

16. Contenido: se endurecen las protecciones para adolescentes

Meta deberá mantener y mejorar mecanismos para limitar la exposición adolescente a:

• bullying;
• harassment;
• contenido relacionado con trastornos alimentarios;
• suicidio;
• autolesiones;
• determinados contenidos sensibles;
• contenidos considerados inapropiados para la edad.

Además, deberá limitar la exposición repetida a determinados tipos de contenido sensible. (Acta Gobierno de Massachusetts)

Una característica importante es que el acuerdo no se limita a prohibir contenido ilegal. También se ocupa de: la frecuencia y repetición de exposición.

Es decir, entra en el terreno de la arquitectura de recomendación y exposición, aunque no elimina el sistema de recomendación. En otras palabras, “revisaría” los contenidos recomendados por el algoritmo.

17. Meta no podrá simplemente reducir estas protecciones posteriormente

El acuerdo establece obligaciones de mantenimiento y mejora.

En términos prácticos: las protecciones para adolescentes no pueden ser debilitadas simplemente porque Meta cambie su política de producto.

El sistema deberá mantenerse al menos en el nivel requerido y puede ser fortalecido cuando las evaluaciones indiquen que las medidas existentes son insuficientes. (Bills and Benches)

18. Reportar contenido dañino tendrá un SLA

Este es otro cambio particularmente concreto.

Cuando un adolescente reporte determinado Potentially Harmful Content (Contenido Potencialmente Dañino), Meta deberá establecer procesos que permitan responder:

dentro de 6 horas en al menos: 90% de los casos.

La obligación específica se refiere a reportes realizados en inglés o español. (Techdirt)

Las categorías contempladas incluyen, entre otras:

• bullying;
• harassment;
• violencia;
• sexual content;
• explotación sexual infantil;
• hate speech;
• suicidio;
• self-harm.

Esto modifica directamente la interfaz de reporting/reportar contenido y también los procesos internos de moderación.

19. Mayor protección frente a adultos potencialmente sospechosos (anti Grooming)

Meta deberá mantener mecanismos destinados a evitar que adolescentes sean contactados por determinadas cuentas consideradas potencialmente sospechosas.

Esto incluye:

• limitar la capacidad de esas cuentas de encontrar adolescentes;
• limitar follow/contact;
• mantener cuentas adolescentes privadas en Instagram;
• configuraciones de privacidad específicas en Facebook;
• herramientas de bloqueo y denuncia;
• advertencias cuando exista interacción con determinadas cuentas.

(Bills and Benches)

20. Aparecen advertencias dentro de Messenger/DM

Cuando un adolescente interactúe con una cuenta considerada Potentially Suspicious Account, Meta deberá proporcionar advertencias.

Esto introduce una nueva capa en la:

• interfaz de mensajes;
• interfaz de solicitudes de contacto;
• interacción entre cuentas.

La idea es que el adolescente reciba información antes o durante una interacción potencialmente riesgosa. (Bills and Benches)

21. Nuevos controles parentales

Este es otro componente muy importante.

Los padres/supervisores tendrán más capacidad para:

• establecer límites de tiempo;
• hacerlos más restrictivos;
• imponer el feed no personalizado;
• controlar autoplay;
• modificar horarios escolares;
• restringir funciones durante horario escolar;
• establecer configuraciones protectoras;
• recibir información sobre utilización;
• recibir alertas sobre determinadas interacciones.

(Acta Gobierno de Massachusetts)

22. Los padres podrán recibir información sobre cuentas secundarias

Meta deberá mejorar la identificación de:

• cuentas vinculadas;
• cuentas secundarias;
• cuentas que se considere que pertenecen al mismo adolescente.

Y los padres podrán recibir notificaciones cuando se detecten determinadas cuentas secundarias.

Además, las restricciones parentales deberán poder extenderse a esas cuentas. (Bills and Benches)

Esto intenta cerrar uno de los principales agujeros de cualquier límite de tiempo:

“Si me bloquean esta cuenta, creo otra”.

23. Los padres recibirán información sobre determinadas interacciones

El sistema de supervisión también contempla información sobre:

• uso;
• mensajería;
• contenido de larga duración;
• conexiones sociales;
• determinadas interacciones con cuentas potencialmente sospechosas.

También se contemplan alertas relacionadas con determinadas búsquedas repetidas vinculadas con:

• suicidio;
• autolesiones;
• trastornos alimentarios.

(Bills and Benches)

24. El acuerdo modifica la lógica de “opt-in” vs. “default”

Este probablemente sea el aspecto conceptual más importante del acuerdo.

Hay tres niveles diferentes:

A. Obligatorio por defecto

Meta debe implementarlo:

• límite de 2 horas;
• Night Mode;
• silenciamiento de notificaciones;
• Productive Pauses;
• ocultamiento de likes/reacciones;
• determinadas protecciones de contenido;
• determinadas protecciones de privacidad.

B. Opcional para el adolescente

Puede elegir:

• Feed no personalizado;
• desactivar autoplay;
• configuraciones más restrictivas.

C. Control parental

El padre puede:

• levantar ciertas restricciones;
• imponer restricciones adicionales;
• seleccionar Feed no personalizado;
• desactivar autoplay;
• modificar horarios;
• bloquear funcionalidades.

Esto es muy diferente de la situación anterior, donde muchas herramientas de bienestar digital eran simplemente funciones voluntarias que el usuario debía descubrir y activar.

25. Regulación la interfaz de las configuraciones (dark patterns)

Las opciones protectoras deben ser: Reasonably Accessible

Es decir, no pueden estar enterradas deliberadamente dentro de una secuencia complicada de menús.

Y cuando Meta presenta la posibilidad de cambiar el feed o determinadas configuraciones, no puede preseleccionar de manera manipulativa aceptar o rechazar el cambio. (Acta Gobierno de Massachusetts)