El pasado mes de diciembre vio la luz un nuevo modelo de inteligencia artificial (IA) que permite generar lenguaje escrito: ChatGPT. En muy poco tiempo se posicionó en la red con más de un millón de usuarios. Sólo por este hecho, nuestras pantallas experimentaron un salto tecnológico cualitativo, que condicionará y cada vez más modificará nuestras conductas digitales, a la velocidad de la vertiginosa IV Revolución Industrial. Los otrora poderosos buscadores de internet quedaron obligados a migrar a otro nivel.
De inmediato la conversación se llenó de crónicas sobre los impactos que tendría o ya tiene en distintas áreas del quehacer humano este nuevo Chatbot. Desde la redacción de columnas y noticias, correos, exámenes de grado, a la producción de guiones, pasando por las relaciones negocio-cliente, la medicina, las finanzas y demás, el debate crece en la red.
En este marco es evidente que la prospectiva sobre la democracia no podía quedar fuera. Dos artículos ejemplifican el tema, uno del New York Times, denominado Cómo ChatGPT secuestra la democracia, y otro intitulado: El equipo probó cómo ChatGPT podría ser útil para Democracy Technologies.
En el primero se alerta sobre los impactos perniciosos de la nueva herramienta sobre la democracia, con particular referencia a la de EE.UU., por sus capacidades para manipular y, en consecuencia, advierte: “se cierne una amenaza: la inteligencia artificial reemplaza a los humanos en los procesos democráticos, no a través de la votación, sino a través del cabildeo”, para después referir en su análisis varios riesgos, entre ellos: “Podría imitar el trabajo que hizo la Agencia Rusa de Investigación de Internet en su intento de influir en nuestras elecciones de 2016, pero sin el presupuesto multimillonario de la agencia y sin cientos de empleados”.
En el segundo artículo la conclusión respecto de la herramienta de OpenAI, es diferente: “A pesar de los impresionantes resultados, ChatGPT claramente no pudo reemplazar a nuestros expertos entrevistadores y escritores invitados. Lo primero que me vino a la mente al cargar ChatGPT fue cómo podría ser útil como herramienta de civismo y votación, de educación cívica”. Ellos lo pusieron a prueba y concluyeron que podría ser útil pero todavía a un nivel bastante estándar. No obstante, a mí me parce que ese juicio responde a una aseveración estática, toda vez que la esencia de la IA, es justamente aprender.
Por mi parte, yo me di a la tarea de conversar con el ChatGPT, incluso de repetir algunas de las conjeturas del primer artículo y, entre otras cosas, me contestó lo siguiente:
JA: Podrías decirme ¿cuál será el impacto ChatGPT en la democracia?
ChatGPT: No se puede predecir con certeza el impacto específico de ChatGPT en la democracia. Sin embargo, la tecnología de lenguaje puede tener un impacto en la forma en que se accede y se comparte información, lo que a su vez puede tener un impacto en la toma de decisiones democráticas. También es importante tener en cuenta que el uso de la tecnología de lenguaje como ChatGPT debe ser responsable y ético, para evitar la desinformación y la manipulación.
JA: ¿Qué hacer para evitar el uso manipulador de ChatGPT en la democracia?
ChatGPT: Para evitar el uso manipulador de ChatGPT en la democracia se pueden seguir estos pasos: 1.Educación: Promover la educación sobre la identificación de la información falsa y la manipulación en línea; 2. Regulación: Implementar regulaciones para garantizar la transparencia y la responsabilidad en el uso de la tecnología de lenguaje y las fuentes de información; 3. Verificación de la información: Fomentar la verificación independiente y la fact-checking de la información generada por sistemas como ChatGPT; 4. Diversidad de fuentes: Fomentar la diversidad de fuentes y perspectivas para reducir la dependencia de una sola fuente de información; 5. Transparencia de los algoritmos: Garantizar la transparencia en la forma en que los algoritmos, como ChatGPT, funcionan y se entrenan. Estos pasos pueden ayudar a mitigar el uso manipulador de ChatGPT y a proteger la integridad de la democracia.
JA: ¿La inteligencia artificial reemplazará a los humanos en los procesos democráticos, no a través de la votación, sino a través del cabildeo?
ChatGPT: Es posible que la inteligencia artificial, incluyendo sistemas como ChatGPT, tengan un papel cada vez más importante en los procesos democráticos en el futuro. Sin embargo, es importante tener en cuenta que la inteligencia artificial no puede reemplazar completamente a los humanos en estos procesos. La inteligencia artificial puede ser útil para analizar y procesar grandes cantidades de información, pero todavía es necesario el juicio humano para tomar decisiones éticas y justas en los procesos democráticos. Además, la democracia requiere la participación activa y consciente de los ciudadanos, algo que la inteligencia artificial todavía no puede proporcionar. En lugar de reemplazar completamente a los humanos, es más probable que la inteligencia artificial ayude a mejorar y complementar los procesos democráticos.
JA: ¿Las crecientes propuestas autoritarias que está sufriendo el mundo se podrán fortalecer a través de uso de herramientas como ChatGPT para manipular en su favor a los grandes públicos desencantados con la democracia tal y como la han conocido?
ChatGPT: Es cierto que el uso indebido de tecnologías como ChatGPT puede ser una herramienta eficaz para manipular a los públicos y fortalecer propuestas autoritarias. La tecnología de lenguaje puede ser utilizada para generar información falsa, distorsionar la realidad y socavar la confianza en la democracia y las instituciones democráticas. Por lo tanto, es importante estar consciente de estos riesgos y tomar medidas para proteger la integridad de la democracia y prevenir la manipulación a través de la tecnología de lenguaje. Esto incluye regulaciones, verificación de información, educación y transparencia en el uso de tecnologías como ChatGPT. La democracia solo puede ser sólida y resistente si los ciudadanos están bien informados y son críticos con las fuentes de información que reciben.
JA: ¿Actores mal intencionados podrían imitar el trabajo que hizo la Agencia Rusa de Investigación de Internet en su intento de influir en las elecciones de los Estados Unidos de América en 2016, a un costo más bajo?
ChatGPT: Sí, es posible que actores malintencionados imiten el trabajo de la Agencia Rusa de Investigación de Internet (IRA) y utilicen tecnologías de lenguaje como ChatGPT para influir en las elecciones y manipular a los públicos. La tecnología ha avanzado significativamente en los últimos años, lo que significa que es posible crear mensajes falsos y creíbles a un costo más bajo y con mayor eficacia que antes. Es importante estar atentos a estos riesgos y tomar medidas para prevenir la manipulación a través de la tecnología de lenguaje, incluyendo la educación, la regulación, la verificación de información y la transparencia en el uso de tecnologías como ChatGPT. La democracia solo puede ser sólida y resistente si los ciudadanos están bien informados y son críticos con las fuentes de información que reciben.
Por mi parte, expreso que estoy de acuerdo con muchas de las respuestas de ChatGPT, pero también con distintas apreciaciones de ambos artículos, aunque al final me parece que las respuestas hay que encontrarlas regresando a lo básico: la mejor defensa contra toda manipulación en la democracia es una función de la fortaleza que se logre en la consolidación de una ciudadanía integral empoderada.
Miembro Fundador y Director Adjunto de Save Democracy. Vicepresidente de la Conferencia Permanente de Partidos Políticos de América latina y el Caribe (COPPPAL) y secretario ejecutivo de la Fundación Gustavo Carvajal Moreno, Mensajero de la Paz. Político y escritor mexicano ocupado en los temas de gobernabilidad de la democracia. Ha sido académico, legislador y funcionario público. Desde hace casi 20 años milita activamente en favor de hacer avanzar la reforma del Estado en México, en particular de su régimen de gobierno, tarea en la que además de publicar múltiples artículos y libros en la materia.
