Redacción Canal Abierto | Sendas fotos del Papa Francisco y el ex presidente norteamericano Donald Trump generadas a partir de inteligencia artificial suscitaron el debate sobre las implicancias que esta tecnología. El debate amplió sus alcances a partir de una carta del millonario y reciente dueño de Twitter Elon Musk, quien pidió el freno de estas
Canal Abierto Radio entrevistó a Esteban Magnani, docente y periodista especializado en tecnología, quien expresó que “el futuro llegó para las masas, porque pensemos que la inteligencia artificial existe como teoría desde los años 50 y 60. Gracias a los datos que se juntan en Internet el desarrollo en el hardware y demás, se pudo empezar a hacer realidad”.
Y recordó que “hay una inteligencia artificial que estamos usando desde hace más de 20 años casi cotidianamente, que es, por ejemplo, el buscador de Google. El algoritmo de búsqueda de Google es uno de los ejemplos exitosos de lo que puede hacer la inteligencia artificial para detectar qué es lo que está buscando cada persona. Hasta entonces los buscadores se limitaban a encontrar dónde estaba más repetida la palabra que se buscaba”.
“Lo que pasó ahora es que ChatGPT, Dall-E y otras inteligencias artificiales nos mostraron lo que son capaces de hacer para que nosotros juguemos y ahí se armó el bardo. Porque cuando vos la tecnología la soltás a la sociedad y le das acceso a millones, que es lo que hizo la web en el 90, empiezan a surgir más usos y la gente toma conciencia”, añadió.
Magnani subrayó que “la tecnología nunca lleva la carga de sus usos en sí misma. Es en el uso social donde se va a definir realmente para qué sirve y van a surgir los usos imprevistos. Esto sabiendo que no somos todos iguales y que las corporaciones tienen más poder”.
“Por eso es que muchas veces cuando te dicen tal tecnología va a revolucionar tal cosa, tenés que tomarlo muy con pinzas. Así quisieron vender las criptomonedas como la solución a todos los problemas, nos quisieron vender el Metaverso o los NFT como la salvación del arte. Bueno ya vimos cómo está funcionando todo eso y que una cosa es lo que te dicen y otra lo que pasa”, agregó.
Magnani sostuvo que “la inteligencia artificial jamás es neutral. La inteligencia artificial es fuerza bruta estadística. Lo que hace ChatGPT es, dado el contexto de la pregunta, cuál es la palabra que es más probable que aparezca después de las que ya tiene. Entonces, palabra a palabra va armando algo que estadísticamente es muy probable, en base a lo que aprendió en internet, y va a dar un resultado sorprendentemente convincente para la mente humana y va a producir un efecto muy engañoso como dicen algunos especialistas, que es la sensación de que sabe realmente de lo que está hablando”.
El especialista señaló que “la inteligencia artificial es tan buena como la información que consume. No tiene ningún tipo de criterio. Entonces, si consume información sesgada, que es la información que está en Internet, obviamente va a estar sesgada su respuesta. No vas a tener información confiable. Y ya hay gente que le está preguntando síntomas de enfermedades cosas así y es un peligro eso”.
Sobre las dudas que generó la misiva de Musk en torno a que sea una antipropaganda que genere interés en esta tecnología Magnani sugirió que “puede ser intencional o no, pero el efecto es efectivamente eso. De hecho leía a unos especialistas en inteligencia artificial, que decían que la exageración de las críticas pueden hacer pensar que la inteligencia artificial es más poderosa de lo que realmente es y hay que tener cuidado. Por ahí Musk no lo haga interesadamente”.
Y remarcó que “en este caso, a diferencia de muchos otros, parece haber sido bastante genuino cuando invirtió para crear OpenAI, la empresa que sacó como una fundación para democratizar lo que es la inteligencia artificial. Pero justamente se viene quejando porque hace tres años la fundación decidió convertirse en una empresa, cerrar el código, ocultar todo y transformarse en un hermoso negocio, que es el que está floreciendo en este momento. Un negocio del que él parecería haber quedado un poco afuera”.
Magnani planteó la paradoja de que “los que advierten los cambios entre los usos de la inteligencia artificial, al mismo tiempo están dando una imagen de que la inteligencia artificial es omnipotente y que nos va a destruir y que estamos, de alguna manera, cerca de Terminator. Y no es ese el problema; el problema es mucho más terrenal, si querés”.
Acerca de los riesgos de uso de la IA para las campañas de desinformación, como la planteada a partir de las fotos de Francisco y Trump, Magnani destacó que el problema “no es tanto la producción de noticias falsas, porque si es por producción de bolazos, digamos que Internet está llena. El problema es la circulación que está concentrada en cuatro o cinco corporaciones 10 grupos de medios internacionales y el poder de de censura que ejercen algunos países a nivel global. Lo estamos viendo con el tema de las guerras”.
“Lo que sí es más problemático en realidad es lo que les decía antes: la tecnología nunca es neutral, sino que se dirime en un espacio, social, económico y político. Y las consecuencias del uso de la tecnologías van a estar predeterminadas por el contexto actual, que es un contexto de desigualdad, en el que las tecnologías se usan para aumentar la productividad y ese aumento de la productividad va a parar unas pocas manos”, advirtió.
“Y mucho más teniendo en cuenta buena parte de estas empresas son de los países centrales. Entonces probablemente, por ejemplo se reemplacen trabajos en el tercer mundo y los trabajos de calidad, bien pagos, se van a generar el primer mundo a las empresas que ofrecen servicios para reemplazar trabajadores pobres”, sostuvo.
Y concluyó: “esta tecnología que es muy poderosa no va a funcionar en el vacío. Para lo que sirva y los efectos que tengan no van a depender estrictamente de la tecnología, sino del mundo en el que vivimos, de las desigualdades y demás. Entonces tratar de buscar la respuesta en cómo funciona la tecnología es una equivocación. Es lo mismo que lo que explica la gente de Bitcoin cuando dicen que Bitcoin es necesariamente va a ser siempre democratizador. Pero el problema es que Bitcoin funciona en una sociedad de unas características determinadas. Entonces ese tan ideal que está escrito en la tecnología, después hay que ver si si realmente funciona así en el mundo real”.