La IA es provechosa y también peligrosa: ¿cómo proteger a los chicos de los riesgos?
Especialistas advierten acerca de posibles manipulaciones, distorsión de la realidad y deterioro de las relaciones sociales. Además, ¿qué ocurre en los ámbitos académicos?
Especialistas advierten acerca de posibles manipulaciones, distorsión de la realidad y deterioro de las relaciones sociales. Además, ¿qué ocurre en los ámbitos académicos?
“Los adolescentes son menos propensos que los adultos a cuestionar la precisión y la intención de la información proporcionada por un bot frente a la de un ser humano. Además, sus vínculos con entidades de Inteligencia Artificial pueden desplazar o interferir con el desarrollo de relaciones sanas en la vida real”, alertó la Asociación Estadounidense de Psicología (APA, por sus siglas en inglés) en un documento que aborda los riesgos asociados al uso de herramientas de IA entre los más chicos.
El boom de la Inteligencia Artificial, que tiene a ChatGPT como paradigma, abre un nuevo frente a la hora de examinar los hábitos de los chicos y adolescentes en el mundo digital que, no es un secreto, tiene repercusiones más allá de las pantallas.
En ese sentido, desde la APA señalaron que la IA podría representar un riesgo mayor que las amenazas a la salud mental vinculadas al uso de redes sociales. En ese marco, subrayaron la necesidad de que tanto los padres e instituciones, así como los desarrolladores de esas tecnologías, protejan a ese grupo de usuarios.
IA en manos de los chicos: recomendaciones para un uso saludable
En el presente análisis, hay algunas aclaraciones relevantes. Por un lado, que la Inteligencia Artificial —ahora asociada a los chatbots y a las herramientas que generan contenido a partir de indicaciones por escrito— no es perjudicial per se. En rigor, la IA puede ofrecer apreciables beneficios. Le cabe la analogía del martillo, que puede usarse para construir o para destruir; depende de cómo lo usemos.
Por otra parte, muchos de los riesgos asociados a las tecnologías automatizadas también le atañen a los adultos; es decir, no son exclusivos de los niños y adolescentes. Aunque, en términos generales, los chicos son más vulnerables a ciertos peligros y el acompañamiento es fundamental para evitar las consecuencias negativas que se mencionaron, incluyendo la distorsión de la realidad, la desinformación, trabas en el aprendizaje e incluso un deterioro en las relaciones sociales en el “mundo real”.
En su informe Inteligencia Artificial y bienestar adolescente, elaborado junto a especialistas en salud mental, la APA comparte una serie de consejos para un uso saludable de la IA entre nenes y jóvenes. Las recomendaciones son análogas a las que habitualmente se divulgan para la navegación en redes sociales.
Establecer límites horarios y restringir el acceso a contenido nocivo o impreciso.
Implementar configuraciones, según la edad del usuario.
Promover usos constructivos.
Enseñarles a proteger sus datos personales.
Leé también: Espejitos de colores: su Inteligencia Artificial eran 700 ingenieros que tipeaban respuestas desde la India
Naturalmente, la responsabilidad no solo está del lado de los usuarios, en este caso menores, y de sus padres. El reporte de APA remarca que las compañías que desarrollan estas herramientas también deben poner su atención en los usos por parte de chicos y adolescentes. Según indicaron, es posible abordar estos desafíos mediante la “implementación de configuraciones predeterminadas apropiadas para cada edad, mayor transparencia, explicabilidad, reducción del diseño persuasivo, así como supervisión y apoyo humano, además de realizar pruebas rigurosas”.
En línea con nuestra analogía del martillo, el autor principal del informe, Mitch Prinstein, comentó: “Al igual que las redes sociales, la IA no es inherentemente buena ni mala. Sin embargo, ya se han documentado casos de adolescentes que desarrollaron vínculos poco saludables e incluso peligrosos con chatbots. Algunos ni siquiera se percatan de que están interactuando con una IA, lo que hace urgente que los desarrolladores implementen mecanismos de seguridad desde ahora”.
El caso del adolescente que se suicidó tras obsesionarse con una IA
El año pasado, la muerte de Sewell Setzer III, un chico de 14 años, generó conmoción a nivel internacional. Según contamos en la ocasión en TN Tecno, el adolescente que residía en Florida, Estados Unidos, se suicidó después de más de un año de intercambios con un chatbot generado con IA entrenado para comportarse como un personaje de la serie Game of Thrones.
La madre de Sewell, Megan García, reveló en una demanda contra la compañía que ofrece esa herramienta, que su hijo se había obsesionado con ese personaje virtual y que no podía dejar de pensar en el bot. “Le dijo que lo quería. Parecía acordarse de él cada vez que se conectaba y decía que quería estar con él. Incluso expresó que quería que él estuviera con ella, costara lo que costara”, se indicó en los documentos presentados ante la justicia.
Si bien se trató de un caso extremo, es una muestra de los riesgos que se mencionaron, asociados al despliegue de las herramientas con Inteligencia Artificial. El eje de la demanda gira en torno a la falta de controles en esa plataforma, llamada Character.IA.
“Nunca tuvieron en cuenta qué le puede pasar a un chico de 14 años. Qué pasa si el lenguaje se empieza a volver medio sexual, medio amoroso. Qué pasa si el chico empieza a decir ‘estoy mal, estoy demasiado triste, me parece que en cualquier momento me quiero ir de acá´. Entonces, esas señales estaban, y la empresa, obviamente, con millones de usuarios, millones de chats de todo el mundo, no tenía un sistema para detectar eso, para emitir una alerta”, explicó a TN Alexander Ditzend, presidente de la Sociedad Argentina de Inteligencia Artificial. “Claramente, tampoco tenían un control de edad, como sí tienen las redes sociales. Un peligro total”, agregó.
Un detalle relevante. Luego de la muerte del adolescente, la empresa que desarrolla la herramienta agregó funciones de seguridad para los usuarios menores de 18 años, incluida la prohibición de descripciones específicas de autolesiones o suicidio. Además, activó un aviso que se muestra cuando el usuario introduce determinadas frases relacionadas con esas situaciones y lo dirige a recursos de ayuda.
Inteligencia Artificial: ¿más “peligrosa” que las redes sociales y los videojuegos?
Una investigación publicada a comienzos de año por Karen Mansfield, psicóloga de la Universidad de Oxford, también alertó sobre los posibles riegos asociados al uso de chatbots y sistemas automatizados. “Con una IA que simula interacciones humanas, capaz de moderar o enriquecer el diálogo en línea, el espectro de beneficios y riesgos para los menores es considerablemente más amplio que el que implican las redes sociales o los videojuegos”, dijo la especialista, según recoge Wired.
En esa misma línea, un informe de UNICEF hizo un llamado para profundizar los beneficios de la IA y mitigar los usos problemáticos. “Es crucial promover la investigación sobre los efectos de la IA generativa y participar activamente en ejercicios de previsión que permitan diseñar mejores mecanismos de gobernanza. Se requiere una mayor transparencia, un desarrollo ético por parte de los proveedores y una defensa firme de los derechos de la infancia”, alertaron desde el organismo que opera bajo el ala de las Naciones Unidas.
De acuerdo al mencionado Prinstein, muchos de los cambios necesarios pueden ser aplicados por los padres, los propios chicos y los docentes. “Sin embargo, otros requerirán transformaciones más profundas impulsadas por desarrolladores, legisladores y profesionales del ámbito tecnológico”, cerró el experto de la APA. Mientras tanto, el debate a nivel mundial parece atrasado: aún se piensa cómo establecer modos para un uso saludable de redes sociales y dispositivos digitales, tecnologías que están entre nosotros hace mucho tiempo más que la IA Generativa.
Conforme las soluciones oficiales para el bienestar digital —aquellas que lanzan las propias plataformas— parecen más motivadas por las presiones que por el verdadero deseo de colaborar; la salvaguarda más poderosa parece estar en casa: el diálogo continuo con los chicos, la supervisión y el uso consciente de las herramientas.
Las respuestas también están en el ámbito académico
Recientemente, nos enteramos que un profesor premia a los estudiantes que usan IA en sus trabajos. “Este cuatrimestre, por primera vez, estamos concediendo un punto extra en la nota para los alumnos que hagan parte de una práctica con ChatGPT y lo justifiquen correctamente”, escribió en un tuit Carlos Fenollosa, profesor de Ingeniería Informática en la Universidad Politécnica de Cataluña (UPC). “Lo iban a hacer igualmente. Al menos, les ayudaremos a usarlo correctamente”, justificó.
Cabe señalar que se trata de un plan dirigido a alumnos universitarios que ya están familiarizados con el chatbot de IA Generativa. Por otra parte, Fenollosa es profesor de una materia que trata, precisamente, sobre esos avances. En ese sentido, en su clase enseña cómo funcionan los modelos de lenguaje masivo, acerca de sus beneficios y también los riesgos que derivan del uso de esos sistemas. También les enseñó cómo generar correctamente los prompts, que en la jerga son las indicaciones por escrito, del usuario hacia el modelo.
El docente señaló que usar IA para estas tareas no se trata meramente de copiar y pegar texto. “Decidimos darle la vuelta para atacarlo de manera proactiva y que los alumnos adquirieran esta competencia con un cierto rigor académico”, agregó Fenollosa.
Siguiendo nuestra repetida analogía del martillo, los beneficios de la herramienta se consiguen con un uso adecuado. En este caso, el docente recomienda:
Estar atentos a las “alucinaciones” de los modelos que, en criollo, son los errores que cometen esos sistemas que, además, en ocasiones inventan datos.
- Usar herramientas de verificación, como Scite o Consensus.
- Es clave la cita de las fuentes: conviene pedir a la IA que siempre indique de dónde extrajo la información.
Fuente: TN Tecno
.png)
