TECNOLOGÍA Y DEMOCRACIA
“Los humanos no vamos a ser sustituidos nunca por las máquinas, o, si lo somos, lo seremos con una gran deficiencia en la calidad de nuestros sistemas políticos”
Daniel Innerarity, filósofo y ensayista español, estudioso de los sistemas democráticos
*Una oficina del poder ejecutivo, la Susti, informó que aplicará Inteligencia Artificial a una parte del proceso de escrutinio de las elecciones provinciales del 11 de junio. Sin regulación legal ni protocolos públicos que garanticen transparencia y control ciudadano, la autoridad judicial electoral debería intervenir para preservar el sistema democrático. En todo el mundo se está advirtiendo acerca de los nocivos efectos de la IA sin regulación, salvo en nuestra Provincia.
**La IA puede sustituir la voluntad popular a poco de que su desarrollo lo permita. ¿No es mejor parar la pelota hasta que haya un mejor conocimiento y su regulación por ley?
***Si las mayores mentes tecnológicas del mundo están reclamando la suspensión, que no sea la IA la que se coma el sistema democrático en Corrientes.
Una primera aclaración: no soy tecnófobo, al contrario, creo que la tecnología está jugando un papel fundamental en el desarrollo humano. Pero tampoco padezco de tecnofilia, una enfermedad que supone la adhesión acrítica a las innovaciones tecnológicas y la pretende autónoma de los estados y sus regulaciones.
La incorporación de la inteligencia artificial a una parte del proceso de las elecciones provinciales del 11 de junio, no es una nueva ley ni una disposición de la Junta Electoral Provincial en su carácter de administradora constitucional de todo el proceso.
Es una decisión de la Subsecretaría de Sistemas y Tecnologías de la Información (Susti), un organismo técnico administrativo dependiente del Poder Ejecutivo provincial. Lo anunció su titular: “vamos a estar trabajando con inteligencia artificial en lo que es la lectura de los telegramas el 11 de junio”.
De inicio caben dos preguntas: ¿puede un centro de cómputos dependiente del poder ejecutivo disponer per se la aplicación de la inteligencia artificial a parte del proceso electoral? ¿Es momento de la IA para las elecciones teniendo en cuenta los interrogantes que se plantean en todo el mundo?
Debo decir que el proceso electoral está estrictamente regulado por el Código Electoral Provincial y sometido a las decisiones que tome la autoridad de aplicación, la Junta Electoral local, integrada por estamentos judiciales. La aplicación de la Inteligencia Artificial no está prevista en ningún renglón de la norma.
Es cierto, la informatización viene desde larga data, pero ello no constituye una razón para hacer tabla rasa con las normas y menos aún con la aplicación de una tecnología de última generación que recién se está desarrollando y conociendo en el mundo.
“Es evidente que la inteligencia artificial no puede servir al bien público sin reglas claras” dice Paul Nemitz, consejero de la Comisión Europea, en su libro “Derecho, ética y democracia en la era de la inteligencia artificial”, en coautoría con Matthias Pfeffer.
No existen normas al respecto en nuestra Provincia, menos aún para que una oficina del poder ejecutivo subrogue la autoridad de la ley y de los tribunales electorales, disponiendo medidas que afectan el corazón del proceso electoral, sin detalles del proceso.
Debo decir, para que se entienda la magnitud del problema, que el asunto no se circunscribe a las oscuras oficinas de una subsecretaría, ni tan siquiera a los límites provinciales, tiene que ver con el futuro de la democracia en la era de la inteligencia artificial, una tecnología que todavía está en pañales pero que, así cómo puede traer grandes beneficios, tiene la capacidad de causar estragos a nuestro sistema político si no se la regula y controla.
El célebre historiador israelí Yuval Noah Harari, autor de muchos best Sellers entre ellos “Sapiens”, nos dice que la IA es un peligroso contrincante al dominio humano de la narración, con capacidad potencial de dominar el discurso público.
En una entrevista a The Telegraph, dice que “la democracia es básicamente conversación…Si la IA se apodera de la conversación, se acabó la democracia”. Si dejamos nuestro sistema político en sus manos, esta tecnología tiene la capacidad potencial de producir contenido por sí misma; es más, astutamente diagramada, puede orientar el proceso electoral hacia los sesgos de sus programadores.
No en balde, más de mil de los mayores ceos tecnológicos, entre ellos Elon Musk y el propio Harari, propusieron una tregua de seis meses para que se regulen los procesos de desarrollo de la IA, y que expertos independientes implementen y auditen protocolos de seguridad.
Hay que decir que el combate principal en torno a la tecnología está dado entre los gigantes de ésta, como Google, y las organizaciones sin fines de lucro, para la regulación. Obviamente, las empresas se oponen a estar sometidos a normas y controles, el negocio es demasiado grande, y son firmas de carácter supranacional que están por encima de los estados.
La potencial monetización multimillonaria de la IA, está generando una competencia encarnizada por generar nuevas prestaciones y ganar mercados, no hesitan en desentenderse de sus peligros con tal de hacer crecer el negocio hasta límites insospechados.
Dice Nemitz que “la pretensión de concentrar poderío y controlar, pone en desventaja al cuarto poder: el periodismo clásico, que es tan importante para la democracia”.
Más, los intereses económicos de las empresas tecnológicas no son sólo el motor para el desarrollo sin controles de la IA. Puede haber otros, como los intereses políticos de los gobiernos, para utilizar como una herramienta singular de control social.
Cierto es que, el mayor riesgo para nuestro sistema democrático lo genera el autoritarismo, la autocracia, la continuidad política de los gobiernos, es por ello por lo que el núcleo central supone la producción de normas y sistemas de controles que disminuyan ese peligro de manipulación política y electoral.
Entrevistado por el sitio Nea Hoy, dice el correntino Nahuel Hollman, analista y profesor de computación, seleccionado entre los diez docentes innovadores, que “hay un montón de cosas malas que tiene internet sobre las que todavía no se legisla”, para agregar que la IA “puede tener consecuencias tanto positivas como negativas. La ética, la justicia, la privacidad y la seguridad son aspectos fundamentales que se deben tener en cuenta en su desarrollo y uso”.
¿Se tiene que eliminar la IA de la democracia y de los procesos electorales? No, lo que se debe es regularla, establecer los protocolos de seguridad, dar a publicidad los mismos y sobre todo posibilitar los controles de los ciudadanos y de los partidos políticos. Y ello no es un tema que lleve un día.
“El hombre es bueno, pero si se lo vigila mejor”, nos dijo el astuto general de la ancha sonrisa. No hay nada nuevo bajo las estrellas, la tecnología para la democracia sí, por supuesto, pero con normas y control, control, control.
La lectura de los telegramas de escrutinio con IA puede ser el primer paso de un proceso cuyos parámetros no están públicamente definidos ni regulados, no sabemos dónde nos conducirá finalmente. No lo saben Elon Musk, tampoco Bill Gates ni Yuvah Harari. ¿Lo sabrá el técnico a cargo del Susti? Lo importante es que lo sepan los ciudadanos, los partidos políticos, la Junta Electoral y los legisladores.
Si hoy los candidatos de todas las fuerzas políticas son elegidos entre gallos y medianoche por un puñado de dirigentes, ¿por qué no pensar que la IA los puede reemplazar en las generales? La democracia, cual mujer del César, no sólo debe ser sino también parecer transparente.
IA, stop para el 11 J. Que la Susti no nos termine dando el susto.
Dr. JORGE EDUARDO SIMONETTI
*Los artículos de esta página son de libre reproducción, a condición de citar su fuente
