¿Sabe quién publica fotos de su hijo en las redes sociales?

Recientemente, un grupo de chicas adolescentes hizo el impactante descubrimiento de que los chicos de su escuela secundaria de Nueva Jersey habían reunido imágenes que habían publicado de ellos mismos en medios de comunicación socialLuego usó esas imágenes para generar desnudos falsos.

Los chicos, que compartieron los desnudos en un chat grupal, supuestamente lo hicieron con la ayuda de una herramienta digital impulsada por inteligencia artificial, de acuerdo con la Wall Street Journal.

El incidente es una aterradora violación de la privacidad. Pero también ilustra cómo Rápidamente la IA está remodelando fundamentalmente las expectativas. sobre lo que podría pasar con las imágenes en línea. Lo que esto significa para los niños y adolescentes es particularmente aleccionador.

A Informe reciente publicado por la Internet Watch Foundation descubrió que la IA se utiliza cada vez más para crear material realista sobre abuso sexual infantil. Algunas de estas imágenes se generan desde cero, con la ayuda de software impulsado por inteligencia artificial. Pero una parte de este material se crea con imágenes de niños disponibles públicamente, que han sido extraídas de Internet y manipuladas mediante inteligencia artificial.

Padres que han visto titulares sobre estos desarrollos Puede que haya empezado a pensarlo dos veces. sobre compartir libremente la imagen de sus hijos en las redes sociales, y tal vez hayan disuadido a preadolescentes y adolescentes de publicar fotografías de ellos mismos de forma totalmente pública.

Pero hay poca conversación sobre cómo los terceros que interactúan regularmente con niños y adolescentes y los atienden, como campamentos de verano, asociaciones de padres y maestros y equipos deportivos, utilizan habitualmente las imágenes de esos niños para su marketing online y redes sociales. Podrán solicitar, o incluso indicar que requieren, el permiso de los padres para este fin en renuncias legales. Sin embargo, es posible que algunos terceros no soliciten ningún permiso, especialmente si los niños se encuentran en un espacio público, como una escuela o un evento deportivo.

El riesgo de que la imagen de un niño sea eliminada de la cuenta de Instagram de la PTA de una escuela, por ejemplo, y utilizada para crear material de abuso sexual infantil es probablemente muy bajo, pero tampoco es cero.

Cómo proteger la imagen de tu hijo en Internet

John Pizzuro, ex comandante del Grupo de Trabajo sobre Crímenes en Internet contra Niños de Nueva Jersey, dijo a Mashable que las fotografías de niños disponibles en línea hace apenas unos años eran difíciles de manipular con el software que existía en ese momento.

Ahora, un mal actor puede eliminar digitalmente y sin problemas el fondo de una imagen que presenta a un niño y luego superponer al joven sobre otro fondo con facilidad, según Pizzuro, director ejecutivo de Raven, un grupo de defensa y cabildeo centrado en combatir la explotación infantil.

Pizzuro dijo que cada organización que toma imágenes de niños y las publica en línea “tiene algún tipo de responsabilidad” y debería contar con políticas para abordar la amenaza del material de abuso sexual infantil generado por IA.

“Cuantas más imágenes haya, más programas se pueden usar para cambiar las cosas; ese es el peligro”, dijo Pizzuro, haciendo referencia a cómo una herramienta de generación de imágenes de IA puede mejorar con cada imagen única que ingiere.

Una forma sencilla para que los padres eliminen la posibilidad de que la imagen de su hijo termine en las manos equivocadas es rechazar que terceros soliciten permiso para fotografiar y publicar imágenes con fines de marketing u otros fines. El permiso suele incluirse en los documentos de inscripción cuando los padres inscriben a sus hijos en campamentos, deportes y actividades extracurriculares.

Las escuelas suelen incluir el formulario en la documentación de inscripción anual. Aunque puede ser difícil encontrarlo en la letra pequeña, los padres deben tomarse el tiempo para revisar la exención y tomar una decisión intencional sobre ceder los derechos de las fotografías de sus hijos.

Si los padres no pueden localizar ese idioma, también pueden preguntar a la entidad sobre sus políticas y prácticas para compartir imágenes y dejar en claro que no han dado permiso para que la imagen de su hijo se publique en línea o en otro lugar. Si uno de los padres ya ha dado el consentimiento al tercero, puede solicitar la retirada del permiso.

Pizzuro dijo que si un padre descubre una foto de su hijo en Instagram que fue publicada sin consentimiento, puede presentar una solicitud de eliminación. Lo mismo es cierto para Facebook. Twitter no permite a los usuarios publicar imágenes de personas privadas sin su consentimiento y de sus padres. puede denunciar esos delitos. Los padres también pueden informar violaciones de privacidad involucrando a sus hijos en TikTok.

¿Quién podría estar tomando y compartiendo fotografías de su hijo?

Mashable solicitó comentarios de algunas de las principales organizaciones que interactúan con niños en los EE. UU. (National PTA, Girl Scouts of the USA, Boy Scouts of America, American Camp Association, National Alliance for Youth Sports) sobre su enfoque de la IA y las imágenes digitales de los niños. . Recibimos respuestas diversas.

Un portavoz de Girl Scouts le dijo a Mashable en un correo electrónico que la organización convocó a un “equipo multifuncional” a principios de este año, compuesto por expertos internos legales, tecnológicos y de programas para revisar y monitorear los desarrollos de IA y al mismo tiempo fomentar el uso responsable de esas tecnologías.

Actualmente, cualquier aparición en un video o imagen en línea relacionada con Girl Scouts requiere el permiso de cada padre o tutor de cada miembro en la foto.

“Estamos comprometidos a permanecer a la vanguardia de estos acontecimientos para garantizar la protección de nuestros miembros”, escribió el portavoz.

Un portavoz de Boy Scouts of America compartió la opinión de la organización pautas de redes sociales, que señala que los videos e imágenes de Scouts en las plataformas de redes sociales deben proteger la privacidad de cada Scout. A nivel local y nacional, BSA debe contar con el permiso de los padres antes de publicar fotografías de niños en las redes sociales, y los padres pueden optar por no hacerlo en cualquier momento. En general, la política de BSA se centra en identificar a un niño de la manera más vaga posible en las publicaciones de las redes sociales, como usar iniciales en lugar de su nombre completo.

Si la solución al problema de las imágenes compartidas públicamente podría parecer ser el cierre de cuentas de redes sociales seguidas únicamente por aquellos con permiso para hacerlo, las directrices de la BSA demuestran por qué ese enfoque es más complicado de lo que parece.

Prohíben los canales privados de redes sociales para que los administradores puedan monitorear la comunicación entre los Scouts y los líderes adultos, así como con otros Scouts, para garantizar que no haya intercambios inapropiados. La transparencia tiene beneficios claros, pero la política es un ejemplo de lo difícil que es equilibrar las preocupaciones sobre privacidad y seguridad.

Heidi May Wilson, gerente senior de relaciones con los medios de National PTA, dijo en un correo electrónico que la organización sin fines de lucro brinda orientación a las PTA locales sobre cómo hacer que los padres firmen formularios de autorización y consentimiento para los medios, garantizar que los padres hayan dado permiso para publicar fotografías tomadas de sus hijos y Decir a las familias en los eventos que no tomen ni publiquen fotografías de otros niños que no sean los suyos. Dijo que la PTA Nacional está monitoreando el avance de la IA.

La American Camp Association no respondió específicamente a múltiples solicitudes de comentarios por correo electrónico sobre sus pautas y mejores prácticas. Un portavoz de la Alianza Nacional para la Asociación de Deportes Juveniles no respondió a las solicitudes de comentarios por correo electrónico.

El futuro de las imágenes infantiles online

Baronesa Beeban Kidron, fundadora y presidenta de la Fundación 5Derechosuna organización sin fines de lucro con sede en Londres que trabaja por los derechos de los niños en línea, dijo que los padres deberían considerar el contenido de abuso sexual infantil generado o manipulado por IA como un problema actual, no como una amenaza existencial que pueda ocurrir en el futuro.

Kidron trabaja con un equipo encubierto que investiga material de abuso sexual infantil generado por IA y observó, con angustia, lo rápido que la tecnología de IA había avanzado incluso en cuestión de varias semanas, basándose en imágenes de abuso sexual infantil utilizando dicho software que había visto. este verano y otoño.

“Cada vez eran más realistas, más numerosos”, afirmó Kidron, que también es miembro transversal de la Cámara de los Lores del Reino Unido y ha desempeñado un papel importante en la configuración de la legislación sobre seguridad y privacidad infantil en línea en el Reino Unido y en todo el mundo.

Kidron dijo que no se ha tenido en cuenta en absoluto la seguridad de los niños “a medida que las empresas crean una IA cada vez más potente y sin barreras de seguridad”.

En Estados Unidos, por ejemplo, ninguna de las leyes penales existentes considera ilegal o punible la creación de material falso o manipulado sobre abuso sexual infantil, según Pizzuro. Si bien es ilegal distribuir material de abuso sexual infantil, la ley tampoco se aplica específicamente a las imágenes generadas por IA. Raven está presionando a los miembros del Congreso para cerrar estas lagunas.

Pizzuro también dijo que la disponibilidad de imágenes de niños en línea ayuda a los depredadores incluso cuando no crean contenido de abuso sexual con ellas. En cambio, los malos actores y los depredadores pueden utilizar la IA para “aprender mecánicamente a un niño”.

Pizzuro describió este proceso como el uso de inteligencia artificial para crear cuentas de redes sociales convincentes pero falsas para niños que realmente existen, con su imagen y detalles sobre su información personal e intereses obtenidos rápidamente de Internet. Luego, un depredador puede utilizar personalmente esas cuentas para preparar a otros niños para abusar o incitar sexualmente en línea.

“Ahora, con la IA generativa, (un depredador) puede preparar a las personas a gran escala”, dijo Pizzuro. Anteriormente, un depredador tendría que recopilar y estudiar cuidadosamente la información disponible en línea sobre un niño antes de crear una cuenta falsa.

Por otra parte, Kidron señaló sombríamente que algunas personas que crean material de abuso sexual infantil utilizando IA pueden ser conocidas por una familia. Un vecino, amigo o pariente, por ejemplo, puede extraer una imagen de un niño de las redes sociales o del sitio web de una escuela y tener contenido de abuso sexual infantil “hecho por encargo”.

Kidron dijo que si bien las empresas de tecnología afirman no saber cómo abordar o resolver el problema de la inteligencia artificial y la privacidad de los niños, han invertido significativamente en identificar contenido que infringe los derechos de propiedad intelectual de otras empresas (piense en canciones y clips de películas publicados sin permiso). .

En ausencia de una respuesta legal clara a las amenazas que la IA representa para la seguridad de los niños, Kidron dijo que los padres podrían presionar a las empresas de redes sociales negándose a publicar imágenes de sus hijos en línea, ya sea en un entorno público o privado, o incluso boicoteando los sitios en su totalidad. Sugirió que tales protestas podrían alentar a la industria tecnológica a repensar su enfoque reticente a una mayor regulación.

Kidron entiende por qué los padres pueden hacer que sus cuentas de redes sociales sean privadas o incluso poner corazones o emojis en las caras de sus hijos en un esfuerzo por proteger su privacidad, pero dijo que preferiría ver una mayor inversión en tecnologías que impidan la extracción de imágenes sin permiso, entre otras cosas institucionales. y soluciones corporativas.

Kidron no quiere ver una realidad distópica, en la que la IA se convierta en una herramienta de fácil acceso para los depredadores y en la que la imagen de ningún niño esté segura en línea.

“Qué mundo tan triste si nunca más se nos permite compartir una foto de un niño”, dijo Kidron.

Leave a Reply

Your email address will not be published. Required fields are marked *