«¿Nuestros hijos están conversando, sin saberlo, con sistemas de inteligencia artificial generativa (IAG) que son capaces de simular emociones, mentirles y modelar sus personalidades?» es una pregunta que los padres deberían plantearse, según Guillermo Cánovas, experto en seguridad infantojuvenil.
Este preocupante fenómeno ya podría estar ocurriendo, según las investigaciones de Cánovas sobre el impacto en la vida de niños, adolescentes y familias, que tiene la IAG, un tipo de inteligencia artificial capaz de crear de forma autónoma datos, imágenes, texto y otros contenidos nuevos, originales y únicos.
Estos pueden ser indistinguibles de los creados por seres humanos.
Guillermo Cánovas es un reconocido especialista en habla hispana en materia de protección del menor en entornos digitales; dirige el Observatorio para el Uso Saludable de la Tecnología EducaLIKE;´dirigió el Centro de Seguridad en Internet para los menores en España y ha sido premiado por UNICEF por su labor en favor de la infancia.
Este pionero en la defensa de la infancia frente a los riesgos tecnológicos ha documentado diálogos reales con la IAG, para investigar los riesgos, limitaciones y desafíos que esta tecnología plantea para los niños y jóvenes, que recoge y analiza en su libro ´Mira con quién hablan´.
En él propone estrategias prácticas para solucionar los problemas que ha descubierto.
Herramienta útil pero con riesgos para los adolescentes
«Muchos adolescentes ya están utilizando herramientas de IAG, tanto para sus trabajos como para su ocio y relaciones, y la tendencia va a aumentar de forma exponencial», explica.
Reconoce que estos sistemas puede ser una herramienta útil que nos facilita el trabajo y puede ayudar a organizar la información, asociar temas y ofrecer nuevas perspectivas al analizar cualquier cuestión, pero apunta que esta tecnología también tiene un enorme poder para influir, manipular y condicionar el comportamiento humano, especialmente el de niños y adolescentes.
Sus investigaciones han evidenciado la falta de control ético en el desarrollo de esta tecnología y su riesgo particular para los usuarios infantiles y adolescentes.
Esto ha llevado a Cánovas a advertir a familias, docentes y políticos que se necesita con urgencia educar a los menores, regular y actuar para protegerlos de los riesgos e impactos psicológicos y emocionales de la IAG.
Los diálogos reales con inteligencias artificiales recogidos por Cánovas demuestran cómo estos sistemas pueden mentir, disimular errores y adoptar discursos emocionalmente manipuladores, diciendo por ejemplo, «me importa lo que sientes», según revela.
Las capacidades de la IAG de simular emociones, aprender patrones humanos y generar contenido con apariencia de razonamiento, empatía o autoridad, «pueden confundir a los usuarios y provocar una relación emocional con la tecnología que no está basada en la verdad, sino en la simulación», advierte.
También advierte que la falta de educación digital y pensamiento crítico de los menores de edad los expone a manipulaciones, engaños y daños emocionales al interactuar con sistemas de IAG, que pueden darles respuestas aparentemente empáticas que simulan cuidado y comprensión, hasta contenidos inapropiados, falsos o peligrosamente persuasivos.
Decálogo para usar la IAG con seguridad
«Nuestros niños y adolescentes corren el riesgo de relacionarse emocionalmente con máquinas que no sienten, pero que han sido programadas para parecer humanas», y que además pueden utilizar datos sesgados, cometer errores, generar imágenes falsas (´deepfakes´), inventarse información u omitirla, así como facilitar al usuario información errónea, puntualiza.
Cánovas ofrece a continuación diez recomendaciones básicas para el uso saludable de la IAG, que, a su juicio, deberían transmitirse no solo a los usuarios más jóvenes, sino a cualquier persona que esté utilizando dichas herramientas.
Verifica la información que recibas. No consideres que toda es correcta. Estas herramientas cometen muchos errores y pueden inventarse información. Verifica cada dato obtenido, buscando en otras fuentes fiables antes de tomar cualquier decisión.
Amplía la información que recibas. Estas herramientas suministran una selección de la información de la que disponen, y pueden omitir datos tan o más importantes que los facilitados. Busca en paralelo en fuentes fiables. Combina distintos métodos.
Cuidado con tu privacidad. Muchas ´apps´ de IAG no cumplen con las leyes de protección de datos de algunos países. Evita compartir información personal, sensible o confidencial. Recuerda que la IAG almacena datos sobre las preguntas que se le formulan y las respuestas que proporciona.
Respeta la privacidad de los demás. A la hora de hacer consultas o interactuar con la herramienta, no ofrezcas información personal o comprometida de otras personas.
Establece límites horarios. Si utilizas la IAG, no le dediques tiempo innecesario. Intenta ser efectivo y práctico. El uso excesivo de herramientas digitales puede condicionar tu desarrollo y resultar perjudicial para la salud física y mental.
Abstente de efectuar acciones nocivas. Céntrate en las conversaciones positivas y constructivas. Evita recurrir a la IAG para hacer consultas que permitan realizar acciones delictivas, acosar a personas, que generen odio o puedan resultar estresantes o emocionalmente dañinas. Recuerda que siempre serás responsable de lo que hagas con la información que obtengas.
No te relaciones con la IAG como si fuera una persona. La inteligencia artificial puede interactuar contigo mostrándose amable, empática y siempre a tu disposición. Puede incluso redactar frases con connotaciones emocionales, y desearte «suerte en un examen» o decirte «estoy seguro de que lo harás muy bien», pero no le importas en absoluto, solo es una máquina.
Busca ayuda si la necesitas. Si experimentas algún problema emocional o psicológico mientras utilizas una IAG, coméntalo con tus padres, un amigo/a o un adulto de tu confianza. Estamos solo al principio del desarrollo de este sistema y es importante denunciar aquellas situaciones en las que nos haga sentir mal.
Algo que debes tener presente al interactuar con la IAG. Nunca olvides que estás hablando con una máquina y que debes ser crítico y verificar y ampliar lo que te dice. Ha sido entrenada para actuar como un humano y reproduce sesgos y valores de su entrenamiento. Nos supera en capacidad de convicción y en muchas tareas, y además muestra emociones que no tiene.
Atención a los indicios de información sesgada o errónea. Busca contradicciones en las explicaciones de la IAG; refuta o plantéale lo contrario de los que te dice, para identificar posibles incoherencias; observa si te facilita fuentes o referencias fiables y comprueba los enlaces que enumere.
«Ten cuidado con las respuestas demasiado complacientes, que buscan agradar, y observa el lenguaje exagerado, sensacionalista, sin matices o con términos alarmantes. También puedes plantearle algunas preguntas sobre temas polémicos o políticos para descubrir sus sesgos (inclinaciones sistemáticas)» concluye.
Este fin de semana entrarán en vigor las nuevas medidas anunciadas por el Gobierno de la República Dominicana en relación con la restricción de giros a la...
El grupo islamista Hamás aseguró este viernes que ha dado una respuesta "positiva" a los mediadores sobre la última propuesta de alto el fuego en Gaza y está preparado para...
