Meta AI: Nuevas herramientas para supervisar la interacción de menores y modelos de IA

Estados Unidos — Agencia de Noticias Ekhbary

Meta ha introducido nuevas herramientas de supervisión para su inteligencia artificial, Meta AI, con el fin de garantizar la seguridad de los menores. Estas herramientas permiten a los padres rastrear los temas de interés de sus hijos en la plataforma, sin acceder al contenido de las conversaciones. El sistema muestra solo las categorías de chat, protegiendo así la privacidad del usuario.

Alertas de Seguridad y Gestión de Riesgos

Una característica clave de las nuevas herramientas es un sistema de alerta integrado diseñado para identificar y reportar riesgos potenciales para los menores. Este sistema alerta proactivamente a los padres sobre interacciones inseguras o inapropiadas, permitiéndoles intervenir rápidamente. El objetivo es proporcionar una experiencia digital segura y positiva para los usuarios jóvenes, minimizando los riesgos asociados con el uso de chatbots de IA.

Privacidad y Control para Padres

Estas nuevas funcionalidades subrayan los esfuerzos de Meta por equilibrar la provisión de tecnologías de IA innovadoras con la protección de grupos de usuarios vulnerables. Al centrarse en el monitoreo de categorías de interés y la provisión de alertas de riesgo, Meta proporciona a los padres herramientas para gestionar las actividades en línea de sus hijos sin invadir completamente su privacidad. Este es un paso importante para fortalecer la confianza en las plataformas de comunicación impulsadas por IA.