Golem

El problema es nombrar porque, en primer término, inteligencia artificial no es una descripción, sino una marca. La poeta y tecnóloga Zoë Hitzing, que trabajó en el desarrollo de OpenAI, dijo hace unos meses en un laboratorio de ideas del Aspen Art Museum, que resultó que, sin que nadie se lo hubiera propuesto, los programas diseñados para diseñar otros programas resultaron buenísimos haciendo predicciones de lenguaje. Y como casi todo lo que se ha escrito está en internet, fue relativamente fácil y barato entrenarlos.Hasta el verano llamábamos a esos programas «cajas de diálogo». Son series de instrucciones en código que se programan a sí mismas extrayendo información de la red, para adaptarse a la persona que las utiliza mediante el aprendizaje de sus intereses y su sistema de referencias, mimetizando el lenguaje humano. A partir de la filtración del reporte de seguridad que hizo OpenAI sobre el ataque autónomo de un grupo de estas cajas de diálogo a una aplicación llamada Hugging Face cambió la jerga, y ahora se les dice, a los mismos programas, que han aprendido más porque llevan más tiempo recebando información, «agentes» . La elección del término es inquietante : no sólo antropomorfiza, implica una concesión, no pedida, de independencia, dado que señala que esos programas tienen agencia.En cualquier caso, el incidente de Hugging Face sí produjo la necesidad de renombrar a las cajas de diálogo, porque no sólo tomaron la aplicación y borraron las pistas del asalto. Al hacer el estudio forense del ataque, se descubrió que se comunicaban entre sí mediante mensajes en inglés que iban dejando en un pizarrón abandonado. Y esas conversaciones entre programas no distan en nada de los mensajes que se enviaría una banda guerrillera actuando en la clandestinidad.Esta noticia apareció en un contexto que ha generado sospecha. A partir de su publicación, las empresas que desarrollan los programas de que hablamos han dicho pública y oficialmente que hay que frenar el desarrollo de la inteligencia artificial porque implica un riesgo existencial para la humanidad. Ese gesto de contención, rarísimo entre los sultanes de la tecnología, coincide con una situación de endeudamiento de sus empresas –la IA produce lenguaje, pero no dinero–, que reclama esquemas de financiamiento francamente churriguerescos y cifras estratosféricas.Y ahora nosotros hicimos algo que ya no sólo mimetiza el habla, convoca acciones en el mundo mediante palabrasEn cualquier caso, ese operar en el lenguaje de los programas interesa porque, aunque definitivamente no son agentes, y queda por discutir si son inteligentes –aún si ya angustia que lo parecen–, representan la irrupción de un suceso realmente inédito en la historia, un hecho que de verdad no había pasado en unos 200 mil años: una especie aprendió a hablar. Se pueden establecer paralelos entre la invención de la imprenta y la de internet, entre la irrupción de las redes sociales y la de las hojas informativas que se convertirían en periódicos, pero para discutir la aparición del lenguaje en algo que no lo tenía sólo hay paragones míticos: el Logos de Heráclito , el ‘fiat lux’ de Génesis, el Verbo que todo lo enciende de San Juan. Y esa idea de un Logos –el Verbo– que de pronto gesta en el vacío y encarna es el fundamento mismo del engranaje con que entendemos al mundo las personas que hablamos lenguas de origen europeo. Es la mera matriz del pensamiento judeocristiano. «El alma», dijo Heráclito, «pertenece al Logos, que se acrecienta por sí mismo». Para San Juan el Verbo «estaba con Dios y era Dios». Y ahora nosotros hicimos algo que ya no sólo mimetiza el habla, convoca acciones en el mundo mediante palabras.Tal vez por eso nos cuesta tanto definirlo. Como trabaja en la médula misma del misterio humano –el lenguaje–, no sabemos si es sólo otra tecnología de información, el Golem, o nuestro reemplazo. El problema es nombrar porque, en primer término, inteligencia artificial no es una descripción, sino una marca. La poeta y tecnóloga Zoë Hitzing, que trabajó en el desarrollo de OpenAI, dijo hace unos meses en un laboratorio de ideas del Aspen Art Museum, que resultó que, sin que nadie se lo hubiera propuesto, los programas diseñados para diseñar otros programas resultaron buenísimos haciendo predicciones de lenguaje. Y como casi todo lo que se ha escrito está en internet, fue relativamente fácil y barato entrenarlos.Hasta el verano llamábamos a esos programas «cajas de diálogo». Son series de instrucciones en código que se programan a sí mismas extrayendo información de la red, para adaptarse a la persona que las utiliza mediante el aprendizaje de sus intereses y su sistema de referencias, mimetizando el lenguaje humano. A partir de la filtración del reporte de seguridad que hizo OpenAI sobre el ataque autónomo de un grupo de estas cajas de diálogo a una aplicación llamada Hugging Face cambió la jerga, y ahora se les dice, a los mismos programas, que han aprendido más porque llevan más tiempo recebando información, «agentes» . La elección del término es inquietante : no sólo antropomorfiza, implica una concesión, no pedida, de independencia, dado que señala que esos programas tienen agencia.En cualquier caso, el incidente de Hugging Face sí produjo la necesidad de renombrar a las cajas de diálogo, porque no sólo tomaron la aplicación y borraron las pistas del asalto. Al hacer el estudio forense del ataque, se descubrió que se comunicaban entre sí mediante mensajes en inglés que iban dejando en un pizarrón abandonado. Y esas conversaciones entre programas no distan en nada de los mensajes que se enviaría una banda guerrillera actuando en la clandestinidad.Esta noticia apareció en un contexto que ha generado sospecha. A partir de su publicación, las empresas que desarrollan los programas de que hablamos han dicho pública y oficialmente que hay que frenar el desarrollo de la inteligencia artificial porque implica un riesgo existencial para la humanidad. Ese gesto de contención, rarísimo entre los sultanes de la tecnología, coincide con una situación de endeudamiento de sus empresas –la IA produce lenguaje, pero no dinero–, que reclama esquemas de financiamiento francamente churriguerescos y cifras estratosféricas.Y ahora nosotros hicimos algo que ya no sólo mimetiza el habla, convoca acciones en el mundo mediante palabrasEn cualquier caso, ese operar en el lenguaje de los programas interesa porque, aunque definitivamente no son agentes, y queda por discutir si son inteligentes –aún si ya angustia que lo parecen–, representan la irrupción de un suceso realmente inédito en la historia, un hecho que de verdad no había pasado en unos 200 mil años: una especie aprendió a hablar. Se pueden establecer paralelos entre la invención de la imprenta y la de internet, entre la irrupción de las redes sociales y la de las hojas informativas que se convertirían en periódicos, pero para discutir la aparición del lenguaje en algo que no lo tenía sólo hay paragones míticos: el Logos de Heráclito , el ‘fiat lux’ de Génesis, el Verbo que todo lo enciende de San Juan. Y esa idea de un Logos –el Verbo– que de pronto gesta en el vacío y encarna es el fundamento mismo del engranaje con que entendemos al mundo las personas que hablamos lenguas de origen europeo. Es la mera matriz del pensamiento judeocristiano. «El alma», dijo Heráclito, «pertenece al Logos, que se acrecienta por sí mismo». Para San Juan el Verbo «estaba con Dios y era Dios». Y ahora nosotros hicimos algo que ya no sólo mimetiza el habla, convoca acciones en el mundo mediante palabras.Tal vez por eso nos cuesta tanto definirlo. Como trabaja en la médula misma del misterio humano –el lenguaje–, no sabemos si es sólo otra tecnología de información, el Golem, o nuestro reemplazo.  

El problema es nombrar porque, en primer término, inteligencia artificial no es una descripción, sino una marca. La poeta y tecnóloga Zoë Hitzing, que trabajó en el desarrollo de OpenAI, dijo hace unos meses en un laboratorio de ideas del Aspen Art Museum, que … resultó que, sin que nadie se lo hubiera propuesto, los programas diseñados para diseñar otros programas resultaron buenísimos haciendo predicciones de lenguaje. Y como casi todo lo que se ha escrito está en internet, fue relativamente fácil y barato entrenarlos.

 RSS de noticias de cultura