Credit…Clay Hickson
Millman es diseñadora y estratega de marca, presentadora del pódcast Design Matters y directora del programa de maestría en creación de marcas de la Escuela de Artes Visuales.
Read in English
Existe una severa advertencia para quien quiera estudiar la cábala, una tradición mística dentro del judaísmo que busca descubrir la naturaleza oculta de Dios y del universo: solo espera. En las prácticas tradicionales, se insta a los futuros estudiantes a aplazar sus estudios hasta cumplir los 40 años, momento en el que se asume que habrán desarrollado el aplomo interior para soportar lo que puedan encontrar.
Deberíamos considerar hacer algo similar con la inteligencia artificial.
Entiendo que esto pueda sonar un poco extremo, sobre todo ahora que la inteligencia artificial parece haber entrado en cada aspecto de nuestras vidas. Pero lo extremo es precisamente el punto.
Nos hemos apresurado tanto a dar por sentado que el acceso a las nuevas tecnologías es algo inevitable, que hemos dejado de cuestionar si todas las herramientas poderosas deberían ponerse en manos de todas las mentes en desarrollo en el momento en que estén disponibles.
También veo esto como algo que va más allá de una cuestión teórica. En el programa de posgrado donde enseño estrategia de marca, mis estudiantes recientemente completaron proyectos de tesis que implican reposicionar marcas o conceptos que han perdido sintonía con la cultura. Al inicio del año escolar, les pedimos que firmaran un documento en el que reconocían haber entendido las reglas sobre el uso de la inteligencia artificial: se les permitía usar IA para investigación y para visualizar ideas, pero se les indicó que no la usaran para sustituir el pensamiento y la escritura originales.
Les recordamos estas reglas de nuevo al inicio del proceso de tesis, porque la tesis no es simplemente un entregable o un ejercicio de presentación, sino el lugar donde se supone que su pensamiento se vuelve visible. Debido a que la estrategia de marca depende tanto de comunicar ideas de manera convincente, esta es la parte del programa en la que los estudiantes deben lidiar con el lenguaje, la evidencia, la duda y la responsabilidad de construir un argumento que puedan respaldar y defender con confianza.
A pesar del acuerdo que firmaron y de varios recordatorios serios, sospechábamos que algunos estudiantes, en efecto, habían usado la inteligencia artificial en lugar de su propia escritura original. Cuando les preguntamos, se incomodaron y luego admitieron que la habían usado para aumentar y sintetizar su escritura. Me pareció que su uso de la palabra “aumentar” era particularmente revelador porque permitía que el acto pareciera menor de lo que era; hacía que la intervención de la IA en su trabajo sonara cosmética y administrativa, cuando en realidad lo que se estaba alterando era la relación del estudiante con el esfuerzo, la autoría y la responsabilidad.
No creo que mis alumnos sean tramposos por naturaleza o que se propusieran actuar con desdén hacia el trabajo, el programa o sus profesores. Si bien agradecí que admitieran la infracción sin resistirse, me pregunto si comprendieron la gravedad de la situación. Esto es lo que más me asusta, porque se trata de algo mucho más común: los estudiantes parecen incapaces de resistirse a la facilidad que los modelos de lenguaje (LLM, por su sigla en inglés) les ofrecen para lidiar con la construcción de sus ideas, e incapaces de tolerar la incomodidad de buscar el lenguaje adecuado cuando ese lenguaje puede producirse para ellos. También parecen no estar dispuestos a permanecer dentro de la dificultad el tiempo suficiente para que esta les enseñe algo que, probablemente, nunca aprenderán de otra manera.
Hay algo parecido a una droga en el uso de la IA, no porque necesariamente produzca placer, sino porque elimina un tipo particular de dolor. Quien crezca con la inteligencia artificial quizá nunca conozca la agonía necesaria de la página en blanco, el comienzo fallido, la pobreza del vocabulario ni la vergüenza íntima de un primer borrador. Un estudiante que recurre a la IA demasiado pronto probablemente nunca permanezca el tiempo suficiente en la confusión como para aprender a distinguirla del fracaso.
La confusión es un estado necesario en el que aprenden a pensar por sí mismos. (Una expresión interesante, ¿no? Como si una persona pudiera pensar por alguien más). El lenguaje no es simplemente la manera en que nos expresamos; es una de las formas en que nos convertimos en quienes somos. Escribimos para descubrir qué pensamos, revisamos para averiguar si lo creemos o no, y hablamos, tropezamos, aclaramos, nos retractamos y lo intentamos una y otra vez para comprender el espacio entre las ideas y la verdad.
La tradición judía trata a la cábala como un conocimiento que requiere estar preparado. La verdadera sabiduría no llega al instante, y sin duda no llega con total fluidez. La sabiduría es la educación lenta del ser, construida a partir de la experiencia vivida. A menudo nos resistimos a ella, y con más frecuencia, nos exige revisar lo que alguna vez creímos saber. Esto puede resultar humillante, pero por eso la sabiduría también se asocia con el crecimiento. Por algo, de niños, nos repetían una y otra vez frases como “sin sacrificio no hay recompensa” o “esto lo aprendí por las malas”.
Admito que, para una persona madura, la IA puede ser útil. Una mente formada es capaz de confrontar a la máquina, descartar su falsa elegancia y reconocer cuándo el lenguaje que genera para volver a describir el mundo se ha vuelto excesivamente pulcro o carente de alma. Alguien que ha convivido con las palabras el tiempo suficiente puede percibir cuándo una oración no se ha ganado con esfuerzo, y alguien que ya ha desarrollado una voz propia puede usar la máquina sin permitir que la máquina se convierta en esa voz.
Una persona aún no formada quizás no note la diferencia, y ahí también radica el peligro. El problema más obvio es hacer trampa. Pero eso es solo la parte más visible y la menos interesante. El riesgo más profundo es que los jóvenes utilicen la inteligencia artificial para eludir el desarrollo de sus propias vidas interiores y dejen de perfeccionar su verdadera inteligencia.
No esperamos a que los niños cumplan 16 años para entregarles las llaves de un auto porque los autos sean malvados, ni insistimos en que los cirujanos se capaciten durante años porque los bisturís sean inmorales. Construimos umbrales alrededor de las cosas poderosas porque el poder requiere criterio, y el criterio no se puede descargar ni instalar. Antes de que una persona le pida a una máquina que escriba por ella, debería saber lo que se siente escribir desde las profundidades de su propia incertidumbre e identidad. Antes de dejar que una máquina imite su voz, una persona debería haber atravesado el largo, desigual y a menudo humillante proceso de encontrar la propia.
Por supuesto, una regla así es imposible como política, y sin duda los 40 años son demasiado tarde para adoptar la IA. Sé que la inteligencia artificial no se va a contener por una advertencia cultural, una cláusula en un programa de estudios, un acuerdo firmado o incluso la súplica de un maestro. No habrá un voto colectivo de moderación, porque la tecnología ya está entretejida en los sistemas en los que aprendemos y trabajamos.
Pero la imposibilidad no le quita sentido al argumento. A veces una regla es valiosa no porque pueda hacerse cumplir, sino porque nos dice qué venera una cultura. La antigua cautela en torno a la cábala sugiere que cierto conocimiento no mejora con un acceso prematuro. La cábala revela que la profundidad requiere preparación, que el misterio no debe consumirse como contenido y que el ser humano que se acerca a cualquier texto importa tanto como el texto en sí.
Necesitamos hoy una cautela similar, no porque la inteligencia artificial sea mística o sagrada, sino porque entra en nosotros a través del lenguaje, y el lenguaje es el medio a través del cual nos conocemos a nosotros mismos.
Debbie Millman es diseñadora y estratega de marca, presentadora del pódcast Design Matters y directora del programa de maestría en creación de marcas de la Escuela de Artes Visuales.
