Mes: febrero 2023

¿Qué hacemos con la desinformación en ChatGPT y BARD?

Desde mi experiencia, trabajando en contenidos digitales, creo que ChatGPT y demás herramientas de inteligencia artificial, si son utilizadas con criterio, nos facilitarán la vida y el saber manejarlas será un skill necesario que todo comunicador o comunicadora tendrá que incorporar en su vida diaria.

Sin embargo, quiero llamar la atención sobre un tema que puedo opinar con mayores argumentosla información engañosa y desinformación

En dos oportunidades probé cuán exactas son las respuestas que da ChatGPT con la siguiente pregunta:

¿Qué hizo la Oficina Nacional de Procesos Electorales (ONPE) para combatir la desinformación y/o los contenidos engañosos durante las Elecciones Generales 2021 en Perú?

La primera respuesta que me dio hace unas semanas atrás estaba llena de inexactitudes, así que quedó descartada de plano y envié feedback a la plataforma.

En la segunda ocasión, me respondió esto:

La ONPE implementó diversas medidas para combatir la desinformación y/o contenidos engañosos durante las Elecciones Generales 2021 en Perú, entre las que se encuentran:

Campañas de información: La ONPE llevó a cabo campañas de información y concientización para promover la difusión de información verificada y confiable a través de sus redes sociales y otros medios de comunicación.

Alianza con Facebook: La ONPE estableció una alianza con Facebook para combatir la desinformación en la plataforma, lo que permitió la eliminación de páginas y cuentas falsas, la detección de contenidos engañosos y la promoción de información verificada.

Verificación de información: La ONPE estableció un equipo de verificación de información para monitorear y verificar la información que circulaba en las redes sociales y otros medios de comunicación, con el fin de detectar y desmentir la desinformación y/o contenidos engañosos.

Sanciones a infractores: La ONPE estableció sanciones para quienes difundieran información falsa o engañosa, incluyendo multas y la eliminación de la publicidad política de los infractores.

En resumen, la ONPE implementó diversas medidas para combatir la desinformación y/o contenidos engañosos durante las Elecciones Generales 2021 en Perú, incluyendo campañas de información, verificación de información, alianzas con plataformas digitales y sanciones para los infractores.

ChatGPT

Las dos primeras respuestas son correctas. La tercera podríamos decir que también, pero cuando trabajé en la entidad gubernamental no fue la única plataforma con la que entramos en contacto y que nos prestó apoyo: también lo hicieron Google, Twitter y TikTok.

La cuarta y última respuesta sí me preocupó, porque no sé de dónde la sacó. Para resumir: la ONPE no tiene la facultad de sancionar a quienes difunden información falsa sobre elecciones. Por ello, esa respuesta es totalmente falsa.

Luego de enterarme de que el anuncio de Google sobre Bard tenía una respuesta inexacta y leer este artículo del New York Times, en el que entrevistan a varios investigadores que le pidieron a la plataforma de OpenAI que respondiera preguntas salpicadas de teorías de conspiración y narrativas falsas, veo que no estoy solo. Cito el artículo de la dama gris:

“Esta herramienta va a ser la herramienta más poderosa para difundir información errónea que jamás haya existido en Internet”, dijo Gordon Crovitz, codirector ejecutivo de NewsGuard, una compañía que rastrea la información errónea en línea y realizó el experimento el mes pasado. “La creación de una nueva y falsa narrativa ahora se puede hacer a una gran escala y con mucha más frecuencia; es como tener agentes de I. A. que contribuyen a la desinformación”.

Ya de por sí enfrentarse a la generación de información engañosa y desinformación por parte de equipos humanos, así como su difusión, es una labor difícil, si le agregamos creadores que no se cansan a la ecuación, estamos ante un serio problema. Cuando uno termina de leer el artículo, entiende que la herramienta aún está en pañales para luchar contra este flagelo.

Como dice Kusu en su postes el momento de debatir este tema y creo que Google y Microsoft no solo tienen los recursos para hacer que BARD y ChatGPT combatan estos fenómenos informativos, sino que además pueden convocar a los académicos que los estudian y las personas expertas en el tema para que ayuden a fortalecer ambas herramientas.


Si llegaste hasta aquí, te recomiendo que te suscribas a Indexante en donde Cesar Soplin SanchezJosé Kusunoki y yo, tal vez no te daremos las noticias que quisieras leer, pero sí las que necesitas saber.