Frente a los cambios caben siempre más de dos posturas. Y a medida que ganan en presencia, toman cuerpo actitudes que van del entusiasmo a la preocupación, de la expectativa positiva al análisis cargado de dudas, de la seguridad a la advertencia de los riesgos. Es lo que está sucediendo con la inteligencia artificial, la IA.
Más allá de las consideraciones generales que tocan la naturaleza y alcance de la IA, sus promesas, su potencial para el conocimiento, sus efectos en la economía y el empleo, su presencia en la vida diaria de la gente, es inevitable detenerse en algunos efectos preocupantes que no han dejado de manifestarse y que tocan valores humanos tan esenciales como la libertad, la capacidad de autodeterminación, el control de los actos y la responsabilidad.
Una de las mayores y más sustentadas preocupaciones tiene que ver con la formación de los niños y adolescentes. Insertada en la familia y en la escuela, la IA ha generado más de un desequilibrio. Padres y maestros ha sentido la presencia de un nuevo actor con influencia en los procesos de aprendizaje, de búsqueda del saber, de estímulo a la creatividad, pero también con efectos negativos como la simplificación, la reducción del esfuerzo y de pensamiento crítico. Según señala la investigadora Natalia Gálvez “La IA, que comenzó como un soporte para tareas académicas y laborales, ha trascendido su función inicial para convertirse en un espacio de interacción emocional y social. Hoy, un creciente número de usuarios está recurriendo a chatbots de IA como una suerte de consejero, amigo o incluso pareja virtual, encendiendo alarmas entre expertos en tecnología y salud mental”.
Convertida de algún modo en maestro y consejero, capaz de atender todas las dudas y responder todas las preguntas, la IA ha asumido para muchos la condición no solo de enciclopedia, sino incluso de asesor o consejero personal. Los medios dan cuenta ya de trágicos desenlaces alimentados por la ansiedad, la desinformación y la adicción a recursos externos con renuncia de la propia conciencia.
Familias y expertos reclaman que se regule la IA por su potencial de riesgo para niños y adolescentes. Lidón Gasull, directora de Affac, la mayor entidad de familias catalanas, declara a este propósito: “No se trata de oponerse a la IA, pero sí de poner límites, regular y ser muy cuidadosos, porque hablamos de una población especialmente vulnerable y no tenemos información ni control sobre el impacto real que su uso puede tener en su proceso de aprendizaje.”
Quienes advierten sobre la necesidad de un debate relativo a la regulación señalan como objetivo garantizar que la IA sirva como herramienta para proteger los derechos fundamentales y que en su formulación y seguimiento deben participar activamente expertos en educación, incluidos directores de centros educativos, docentes y las familias. De lo que se trata es de establecer estándares de seguridad, promover la transparencia en el desarrollo de IA, proteger a los denunciantes y limitar el uso de la IA para aplicaciones específicas y controladas. Algunos países como Estados Unidos y España han avanzado ya en la creación de normas sobre la sobre utilización de las redes por parte de los jóvenes y niños.
Tristan Harris, estadounidense especialista en ética tecnológica, director ejecutivo y cofundador del Center for Humane Technology, lanzó esta advertencia sobre el impacto de la IA: “La sociedad enfrenta un cambio histórico para el que no está preparada”. Al examinar los efectos sociales y psicológicos de la IA, especialmente el auge de los “compañeros IA” y los riesgos para la salud mental de los jóvenes, cita investigaciones que revelan el recurso preferente de ChatGPT para acceder a chatbots como terapeutas personales.
En un mensaje que resuena como conclusión Harris advierte: “Estamos generando las condiciones para una catástrofe”. Sin embargo, insiste, el peligro no radica solo en lo que la IA puede hacer, sino en cómo se está desplegando: “Estamos lanzando la tecnología más poderosa e incontrolable de la historia sin apenas freno”. “El verdadero enemigo no es la IA en sí, sino la creencia de que no tenemos elección”, sentencia.
Gustavo Roosen
nesoor10@gmail.com
