Meta va a empezar a usar en la Unión Europea la inteligencia artificial para el análisis de texto, con el objetivo de identificar de forma proactiva las cuentas que se sospeche que pertenecen a adolescentes, incluso si indican una fecha de nacimiento de adulto.

La IA ayudará a hacer un análisis de contexto para identificar y eliminar las cuentas de personas que Meta cree que son menores de 13 años (14 en España).

En el caso de Instagram, los perfiles que tengan más de 13 años quedarán ubicados directamente en la cuentas de adolescentes, que incluyen por defecto las protecciones adecuadas por edad, las cuales limitan quién puede contactar con ellos y el contenido que ven.

Este uso de la IA, que ya existía en Estados Unidos, Australia, Canadá y el Reino Unido, se amplia ahora, para Instagram, a los 27 países de la Unión Europea y Brasil.

En el caso de Facebook, la empresa lo está extendiendo ahora, por primera vez, a Estados Unidos, y llegará al Reino Unido y la UE en junio.

La IA se usará para analizar perfiles completos en busca de pistas que aporten más contexto —como celebraciones de cumpleaños o menciones a notas escolares— para determinar si es probable que una cuenta pertenezca a un menor de edad, ha informado la compañía Meta en su web.

Esas señales se buscan en diversos formatos, como publicaciones, comentarios, biografías y pies de foto, y se está ampliando a espacios como Instagram Reels, Instagram Live y los grupos de Facebook.

Si se detecta que una cuenta puede pertenecer a un menor, se desactivará y el titular deberá aportar una prueba de edad a través del proceso de verificación para evitar que se elimine su cuenta.

Solo en Estados Unidos

Meta está incorporando otros usos de la IA para mejorar los esfuerzos de detección, pero que de momento solo se aplicarán en Estados Unidos.

Se trata del análisis visual, que permite a la IA examinar fotos y vídeos en busca de pistas visuales sobre la edad de una persona que el texto podría pasar por alto.

«Queremos dejar claro que no se trata de reconocimiento facial. Nuestra IA analiza temas generales y pistas visuales, como la altura o la estructura ósea, para estimar la edad aproximada de una persona; no identifica a la persona concreta que aparece en la imagen», señala Meta.

Al combinar estos datos visuales con el análisis del texto y las interacciones, «podemos aumentar significativamente el número de cuentas de menores que identificamos y eliminamos«.

IA para analizar las denuncias

La compañía también esta «facilitando» a su comunidad la denuncia de cuentas de menores de edad mediante la simplificación de los procedimientos de denuncia.

Además, para gestionar las denuncias de «forma más eficaz» se están complementando los equipos de revisión humana con modelos de IA que aplican criterios de evaluación uniformes a cada caso.

Las pruebas realizadas revelan, según Meta, que la revisión basada en IA «ofrece una mayor precisión y resoluciones más rápidas que la revisión humana por sí sola, lo que garantiza que estas cuentas se traten con mayor rapidez y fiabilidad».