Hoy apunto algunas reflexiones sobre esta herramienta que tanto está dando que hablar. ChatGPT parece un juguete que está divirtiendo a muchos, más por sus errores que por sus aciertos. Veamos.
Tabla de contenidos
Los defectos humanos de la máquina
Hace tiempo que la gente está hablando de ChatGPT. Es increíble la rapidez con la que se instalan y luego desaparecen temas. Me parece que es parte de esta moda de usar y tirar. Hay algo en la velocidad en que descartamos objetos, personas y debates que es bastante inquietante pero volvamos al tema y preguntémonos lo básico: ¿qué es ChatPGT?
Para ello, le preguntamos al mismo sistema que nos de una definición de sus tareas.
Aquí, su respuesta.
ChatGPT es un modelo de lenguaje grande entrenado por OpenAI. Puede responder preguntas y generar texto en una variedad de tópicos. Fue entrenado utilizando un gran conjunto de datos de texto de internet, lo que le permite comprender y responder a una variedad de preguntas y tareas de procesamiento del lenguaje natural.
En general, se está hablando tanto de Inteligencia Artificial que, sin ser una experta, me parece que hay demasiado ruido. Estoy dejando pasar el tiempo y esperando que decante la buena información. Esta velocidad de la que hablaba antes, nos obliga a tener que tener opinión de todo, todo el rato y es desgastante.
El asunto con chatGPT es que surgió con potencia en pleno Mundial y entonces me encontré haciendo preguntas estúpidas y poniendo a prueba la herramienta. Así, a vuelo de pájaro, me hizo reflexionar sobre varias cosas.
- No es una enciclopedia. No pregunten cosas históricas. Hace mucha agua. Por ejemplo, pregunté asuntos muy concretos sobre Keynes y no tenía idea pero hay más.
- Manda fruta: esto me hizo pensar. En vez de decir, no sé. Elabora teorías estrambóticas y saca conclusiones erróneas. Por ejemplo, cuando le pregunté qué me podía decir de la relación de EF Schumacher (padre de la economía ambiental y budista) y Keynes, no solo no tenía idea, sino que especuló con que era muy posible que nunca se hubiesen cruzado. Mentira, se cruzaron varias veces a lo largo de su vida y hubo algunas controversias que contaré a su debido tiempo. En efecto, tiene todos los vicios hermosos de las personas chismosas. Por ejemplo, inventa romances que no existieron como el de Katherine Mansfield y Maynard Keynes.
- Insisto: no busquen datos históricos porque para eso está Wikipedia
- En donde sí está teniendo éxito esta herramienta es en responder a preguntas estúpidas y retorcidas por parte de la gente. Es decir, queremos poner a prueba la herramienta preguntando cosas que nos hagan reír. Sin embargo, fíjense que lo interesante de esta sucesión de intercambios, son las preguntas y lo que pensamos que puede responder la máquina. Es mas, nos parece más atractivo preguntarle algo sobre lo que ya sabemos la respuesta que una cuestión totalmente desconocida.
Es curioso, hay todo un arsenal de científicos e ingenieros trabajando para que nosotros nos sentemos frente a la pantalla a buscar respuestas que nos hagan reír.
Por ejemplo, durante el Mundial fue capaz de crear un poema sobre la final de Argentina Francia (no muy bueno, la verdad). Pero veamos algunas búsquedas interesantes.
En este tipo de preguntas absurdas, nos interesa saber cómo se sale con la suya la máquina para tirarnos una respuesta aceptable.
Aquí la respuesta no me convence. Le falta contexto para entender mi pregunta. O puede que no la haya formulado bien. Probemos cambiando la pregunta.
Esta respuesta se acerca un poco más a lo que busco. Pero aun así, ricemos más el rizo.
Y podríamos seguir iterando preguntas en torno al asunto del brócoli pero lo dejamos acá.
Humillar a la máquina
¿Se atreverían a hacer este tipo de preguntas a alguien de carne y hueso? El ChatGP, nos permite poner en ridículo a alguien sin que sea moralmente reprochable. Tiene algo de morbo el asunto porque elaboramos preguntas que nunca haríamos a un ser humano porque a un ser humano, lo tomamos en serio y lo respetamos (en principio). A la máquina, no y por eso la humillamos con preguntas estúpidas. Nos reímos de ella.
Todo esto me lleva a reflexionar sobre cuál es el potencial destinatario de esa pregunta, a la hora de elaborarla. Es decir, crear una interrogación no es una variable exógena en donde el medio y el receptor es irrelevante. Medio y receptor, afectan el tono y el tenor de la pregunta. La redactamos y la elaboramos de forma diferente e insisto: la máquina, por su carácter NO humano, habilita toda una serie de preguntas que no habilita otro ser humano. Nos volvemos más juguetones, quizás humillamos, somos más creativos… o más basuras. La personalidad se vuelve aleatoria porque jugar tiene algo de azaroso. Somos menos educados.
Y hay un anonimato que coopera.
Preguntar no tiene consecuencias
Si yo entro a una tienda y tengo que preguntar por un producto, pienso en lo que quiero saber, trato de ser amable (la mayoría de las veces) e intento que el vendedor me brinde esa información. Si soy un comprador asiduo, establezco un vínculo y entonces ya el anonimato ausente, colabora en que mis preguntas y mis declaraciones, en general, sean más medidas. Pierdo libertad porque justamente estoy en sociedad.
El chatGPT es la antisociedad. No lo juzgo. Tiene lo mejor y lo peor de la plaza pública en la que al menos nos veíamos a las caras. Eso tenía algo de provinciano y oprimente, pero al menos, nos medíamos como ciudadanos. Había que rendir cuentas a alguien, la sociedad, el Estado, lo que sea. Teníamos una idea de comunidad.
El chat puede que sea una metáfora, de aquello que se elimina cuando desaparece la idea de lo común.
La pregunta es el camino
Sin embargo, todo esto me hizo reflexionar sobre lo siguiente. Nos pasamos el día buscando cosas en Internet. Bienes y servicios que necesitamos. Y cuando no los encontramos, en general, es porque no estamos haciendo la pregunta adecuada. Y nos rompemos la cabeza pensando en la palabra clave que tenemos que utilizar para encontrar lo que buscamos. Es decir, el kit de la cuestión no está en la respuesta, sino en las preguntas que hacemos.
En filosofía y en ciencia sucede algo parecido: las preguntas son como el instrumento que nos permite abrir un camino, y moldeando esas preguntas abrimos nuevos senderos de conocimiento. La respuesta luego llega fácil porque el camino ya está allanado. Nos recuerda María Popova de The marginalian las sabias palabras de Norbert Wiener en God, Golem, Inc:
“Es relativamente fácil promover el bien y combatir el mal cuando el bien y el mal están dispuestos uno frente al otro en dos líneas claras, y cuando los del otro lado son nuestros enemigos incuestionables y los de nuestro lado nuestros aliados de confianza. Pero, ¿qué ocurre si debemos preguntarnos, cada vez y en cada situación, dónde está el amigo y dónde el enemigo? ¿Qué ocurre, además, cuando tenemos que poner la decisión en manos de una magia inexorable o de una máquina inexorable a la que debemos plantear de antemano las preguntas adecuadas, sin comprender plenamente las operaciones del proceso por el que serán respondidas?”.[1]
La pregunta implica todo un bagaje y un pasado del preguntador. Un saco de expectativas, recuerdos, memorias. Todo ese pasado y presente es único e irrepetible. No hay dos iguales. Y ese pasado y presente moldea nuestras incógnitas porque tienen que ver con nuestra supervivencia.
¿Cómo trasladamos al robot la necesidad de las buenas preguntas?
Con la herramienta ChatGPT pasa lo mismo: estamos afianzando la pregunta todo el rato. Redactándola, puliéndola, jugando con las palabras, tratando de ser eficiente.
En realidad, la vedette es la pregunta.
La verdadera protagonista de toda esta historia. La respuesta es solo un actor secundario que pasaba por allí. Es un poco también lo que hace la matemática, la poesía. Buscar con poco y avanzar mucho. A través de preguntas.
Y seguir explorando.
¿El fin de la creación humana?
Por último, con respecto al asunto de la literatura y las IA, hay muchos escritores que están debatiendo la capacidad de las IA de generar textos literarios. A mí estos debates de “me van a robar el trabajo” me aburren y me agotan. No sé si las IA son capaces de esa creatividad y la verdad no me interesa. En principio, seguiré escribiendo porque escribir también es preguntar y prefiero preguntarme a mí misma que a una herramienta de IA. Lo que muchos no saben es que se pierde lo mismo o más tiempo, pensando y elaborando preguntas en el chat IA, que dejando a un lado todo y dedicándose a escribir. Al final, será una cuestión de costo-beneficio y de pensar que quizás podamos llegar a un momento en que lo realmente importante no sean los escritores sino las obras.
En un mundo sin escritores en donde el arte sea lo verdaderamente trascendente, nos debería dar igual quién crea porque apreciamos el arte sin tomar en cuenta a la persona que crea. En ese mundo, quién realice ese trabajo sería irrelevante. Pero de nuevo: si no hubiera reconocimiento público, los escritores, ¿seguirían escribiendo? O yendo más allá, ¿no será el que el ego del artista es lo que lo empuja a crear? Y, pensando un poco más allá, ¿no pasa que mucho de los trabajos que realiza la gente están motivados por el reconocimiento público? ¿No sucede que hay gente, mucha, que considera parte importante de su trabajo poder HABLAR de su participacion en ello?
Y todo esto me lleva a seguir pensando.
¿Podría una renta básica, ser la herramienta necesaria para que deje de ser importante QUIÉN hace las cosas?
A cartoon by Sarah Kempa. Fuente: The New Yorker.
Explicar cosas complejas de forma simple
Hace poco contaban en Twitter la capacidad bastante buena que tiene esta herramienta para traducir en palabras sencillas el lenguaje médico. Me pareció un uso interesante teniendo en cuenta que los médicos en general tienen capacidades limitadas de retórica. En este sentido, la capacidad de comunicación de la máquina es superior. Puedes subir un informe médico y lo traduce a criollo. Eso vale oro, en especial, hoy en día en que los médicos tienen poco tiempo para hablar. Es decir, ya la máquina no sustituye al médico majo de toda la vida (yo no llegué a verlo, pero me dicen que existió) sino al doctor de hoy que ya anda medio robotizado. Al final, quizás somos robots compitiendo con robots.
Por otra parte, es interesante que sirva para explicar, por ejemplo, teoremas matemáticos. Me parece que podría ser una buena herramienta de aprendizaje. En especial, cuando tenemos que explicar en lenguaje infantil cosas más o menos complejas. Por ejemplo, le pregunté qué es la materia oscura y que me explicara en términos gráficos la Paradoja de Russell. Aunque el chat no dibuja, es capaz de hablar en lenguaje gráfico.
El chat sirve, no sé si para los usos para lo que fue concebido, pero al menos mueve el debate. Hace pensar. Bienvenido, entonces.
Y hablando de preguntas y respuestas, los dejo con un mini cuento demoledor pero que no envejece de Fredric Brown. Que tengan un hermoso día.
“Dwar Ev soldó ceremoniosamente la última conexión con oro. Los ojos de una docena de cámaras de televisión le contemplaban y el subéter transmitió al universo una docena de imágenes sobre lo que estaba haciendo.
Se enderezó e hizo una seña a Dwar Reyn, acercándose después a un interruptor que completaría el contacto cuando lo accionara. El interruptor conectaría, inmediatamente, todo aquel monstruo de máquinas computadoras con todos los planetas habitados del universo —noventa y seis mil millones de planetas— en el supercircuito que los conectaría a todos con una supercalculadora, una máquina cibernética que combinaría todos los conocimientos de todas las galaxias.
Dwar Reyn habló brevemente a los miles de millones de espectadores y oyentes. Después, tras un momento de silencio, dijo:
—Ahora, Dwar Ev.
Dwar Ev accionó el interruptor. Se produjo un impresionante zumbido, la onda de energía procedente de noventa y seis mil millones de planetas. Las luces se encendieron y apagaron a lo largo de los muchos kilómetros de longitud de los paneles.
Dwar Ev retrocedió un paso y lanzó un profundo suspiro.
—El honor de formular la primera pregunta te corresponde a ti, Dwar Reyn.
—Gracias —repuso Dwar Reyn—. Será una pregunta que ninguna máquina cibernética ha podido contestar por sí sola.
Se volvió de cara a la máquina.
—¿Existe Dios?
La impresionante voz contestó sin vacilar, sin el chasquido de un solo relé.
—Sí, ahora existe un Dios.
Un súbito temor se reflejó en la cara de Dwar Ev. Dio un salto para agarrar el interruptor.
Un rayo procedente del cielo despejado le abatió y produjo un cortocircuito que inutilizó el interruptor.[2]
[1] Traducción propia en base al libro de Robert Wiener. Las negritas son mías, no del autor.
[2] © Fredric Brown: Answer (La respuesta). Publicado en Angels and Spaceships, 1954. Traducción de María Teresa Segur. Disponible en Lecturia.org
Para leer más
- Una pausa en Tokio
- Una llegada a Japón
- Notas sobre la racionalidad, las emociones y el cuerpo
- Notas sobre la economía y el cuerpo
- Cuando las casas son mausoleos
Últimos comentarios
¡Gracias!
¡Gracias Trini!
Bellísimo Silvia, transparente y en el tono justo, como un haiku, cada palabra es necesaria y está en su lugar.…
Impecable, verosímil. Magnífica escritura.
«…decirle: vamos a la parada que vos quieras. Y con su dedo hermoso señaló una parada impronunciable. «, que linda…