CAMINO INCIERTO
“Que los laboratorios pausen de inmediato y durante al menos seis meses, el entrenamiento de los sistemas de Inteligencia Artificial más potentes que el GPT-4”
Carta Abierta de Elon Musk y 1100 líderes tecnológicos
*Que sean los mismos expertos y creadores de la tecnología de la Inteligencia Artificial los que soliciten a las empresas una suspensión en su desarrollo, que permita un mejor conocimiento y regulación de sus efectos, nos da la pauta del daño potencial inconmensurable que se advierte en perjuicio de la humanidad. De nada servirán los beneficios si se dañan los cimientos del edificio social.
**En un tema tan decisivo, los estados deben tomar el control y la regulación de la tecnología, antes que ésta tome el control de los estados.
***En este proceso de desculturización y debilitamiento del pensamiento crítico, la nueva tecnología terminará con la capacidad de discernimiento del ser humano.
¿Será capaz la inteligencia artificial de devorar al hombre? ¿Estamos al comienzo del fin de la cultura humana tal como la conocemos? ¿Serán las máquinas las que determinarán la vida futura? ¿entraremos definitivamente en la imposibilidad de distinguir la realidad de la virtualidad? En suma, ¿será la tecnología quién reemplazará definitivamente al humanismo?
Estas preguntas, que parecen apocalípticas, son tal cual, porque así se presenta el futuro de la humanidad en manos de la inteligencia artificial. No lo digo yo, lo dicen los propios desarrolladores y mayores expertos en tales cuestiones, que están “asustados” por las consecuencias de su propio invento.
“Hay que parar por seis meses el desarrollo de la inteligencia artificial”, advirtieron en una carta abierta Elon Musk y un millar de expertos en desarrollo tecnológico y en la ética de la tecnología.
Es que las empresas embarcadas en la carrera por llegar primero y mejor, avanzan aceleradamente en el desarrollo y perfeccionamiento de los procesos de IA, obviamente con el objetivo de ganar en el mercado. No es ciencia pura, es ciencia aplicada y miles y miles de millones de dólares en juego.
En función de esos objetivos de monetización, se están poniendo en marcha procesos que ni los mismos creadores están en condiciones de determinar sus consecuencias y resultados finales.
En un artículo publicado por el New York Times, Yuval Harari, Tristán Harris y Aza Raskin, advierten que “si se produce el caos, será demasiado tarde”. Cuentan que en 2022, en una encuesta a más de 700 académicos, la mitad de los entrevistados dijo que había un 10% más de probabilidades que la humanidad se extinguiera o que los humanos sufran un desempoderamiento terminal y permanente.
Y todo comienza con el lenguaje, si señor. En un principio fue “la palabra” el sistema operativo de la cultura humana: del lenguaje nacen el mito y la ley, los dioses y el dinero, el arte y la ciencia, las amistades y las alianzas, las naciones y el código informático.
Pero, una vez que ingresa en el dominio del lenguaje, la Inteligencia Artificial está en condiciones de hackear y manipular el sistema operativo de la civilización: la palabra. Y allí, pasamos definitivamente a perder el control, porque es un sistema extrahumano que nos quitará la indispensable capacidad de discernimiento.
Dicen los autores del artículo que, “al adquirir dominio del lenguaje, la IA tiene todo lo necesario para confinarnos a un mundo de ilusiones similar al de Matrix, sin tener que dispararle a nadie ni implantar ningún chip en nuestros cerebros”.
La primera fase de la pérdida de control de nuestras propias capacidades en beneficio de la IA, son las redes sociales. La IA que alimenta nuestros feeds de noticias, es la que elige las palabras, los sonidos y las imágenes que nos llegan a cada uno, seleccionando aquellas con mayor potencial de viralización, repercusión y participación de otros usuarios.
De manera tal que, esa primera incursión de la IA que está detrás de las redes sociales, nos creó un mundo artificial, una cortina de ilusiones, fogoneó la polarización social, dinamitó nuestra salud mental y dejó la democracia hecha jirones.
Pero si las redes sociales, que alegremente manejamos con habitualidad diaria, fueron capaces de crearnos un mundo de ilusiones, lo que viene es muchísimo más preocupante. El potencial de desarrollo de los denominados “modelos de lenguaje grande”, es tal que puede introducir al mundo en el caos.
Sam Altman, CEO de OpenIA, la empresa que creó la controvertida aplicación de inteligencia artificial ChatGPT, advirtió que este tipo de tecnología conlleva peligros reales para la sociedad. “Estamos un poco asustados por esto”, admitió en diálogo con la prensa.
Elon Musk y los 1100 firmantes de la Carta Abierta, advierten que “los laboratorios de IA entraron en una carrera fuera de control para desarrollar e implementar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de forma fiable”.
Es cierto, la IA tiene el potencial de ayudarnos en problemas en los que la humanidad no alcanza a visualizar una solución, tal vez a vencer el cáncer, desarrollar medicamentos, proyectar soluciones climáticas y energéticas. Pero a la par, conlleva peligros impensables, para una sociedad incapaz de absorber cambios tan rotundos en tan poco tiempo. “¿Qué importa el rascacielos de beneficios de la IA si los cimientos se derrumban? dice Harari.
La cuestión es no sólo determinar hasta dónde puede la IA puede llevar a la humanidad, sino previamente hasta dónde los gobiernos dejarán que las empresas avancen en copar el mercado, sin intervenir en la regulación de una tecnología con un potencial de daño mayor que una bomba nuclear.
El impacto en la educación ya es casi insalvable. Aún con los elementos informáticos de hoy, la posibilidad del educando de tener a un clic todas las respuestas, le ha dado un duro golpe al desarrollo de sus capacidades de comprensión y razonamiento que se supone es el objetivo principal de la escuela.
La cuestión, a mi juicio, tiene dos aristas: la primera, es la utilización humana de la IA para fines disvaliosos (guerra, desinformación, desculturización, dominación, etc.), que sin advertirlo, seamos “conejillos de indias” de personas con determinados intereses comerciales, políticos, culturales, militares, etc.
La segunda, es la autonomización de la IA, de manera tal que se convierta en un ente que se independice de la supervisión humana, y nos dirija la vida desde los sesgos de su robótica.
La pregunta es: ¿podrá la IA completar el proceso de sustitución del ser humano, no sólo en sus actividades sino, además y finalmente, en la toma de decisiones? Con ser ello realmente posible, nos interrogamos, ¿será capaz de iniciar por sí misma una guerra nuclear sin contar con el dedo índice de los líderes sobre el botón rojo?
¿A qué distancia estamos de perder los últimos reductos del pensamiento crítico, en manos de algoritmos complejos que nos dirijan la vida? Yo digo que a poca, y ello sí es realmente dramático.
De allí es que los líderes tecnológicos han peticionado un “stop” de seis meses para el desarrollo de la IA, para dar tiempo a un mejor conocimiento y manejo de la misma (es patético advertir que ni ellos mismos la conocen en profundidad), y sobre todo para que los estados puedan tomar el control y la regulación de la tecnología antes que ésta tome el control de los estados. Italia es el primer país en parar la pelota.
Tengo la sensación de estar sobre un volcán en ebullición. Tal vez exagero. Pero, por las dudas, adhiero al stop solicitado por los expertos.
Dr. JORGE EDUARDO SIMONETTI
*Los artículos de esta página son de libre reproducción, a condición del citar su fuente