- Sputnik Mundo, 1920
Tecnología
Lo más destacado sobre los últimos avances tecnológicos e innovaciones.

Carta para pausar la Inteligencia Artificial: ¿pánico tecnológico o alarma justificada?

© Sputnik / Vitaly Belousov / Acceder al contenido multimediaInteligencia artificial (imagen referencial)
Inteligencia artificial (imagen referencial) - Sputnik Mundo, 1920, 30.03.2023
Síguenos en
Un grupo conformado por expertos en tecnología, académicos y ejecutivos, entre ellos el hombre más rico del mundo, Elon Musk, acaba de hacer sonar la alarma sobre la velocidad del desarrollo de la inteligencia artificial.
Mediante una carta, publicada por el think tank Future of Life Institute y rubricada por más de 1.000 personalidades, pide una pausa en el desarrollo de la inteligencia artificial (IA) hasta que expertos puedan establecer y auditar protocolos de seguridad y analizar sus posibles "riesgos profundos para la sociedad y la humanidad", en medio del furor de las empresas de tecnología por presentar productos de IA desencado tras la aparición a fines del año pasado de ChatGPT, un bot conversacional.
"La IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra, lo cual debe planificarse y administrarse con el cuidado y los recursos correspondientes. Desafortunadamente, este nivel de planificación y gestión no está ocurriendo", dice la misiva.
En ese sentido, los expertos advierten en el texto que "en los últimos meses los laboratorios de IA han entrado en una carrera sin control para desarrollar e implementar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de forma fiable".
Robot tocando el piano - Sputnik Mundo, 1920, 21.03.2023
Estilo de vida
¿La inteligencia artificial afectará el mercado laboral en América Latina?
Se trata de una mención a la explosión de IA generativa, es decir, la tecnología que puede crear textos o imágenes que no existían previamente, y en la que el ChatGPT, lanzado por la empresa Open IA (financiada por Microsoft e, irónicamente, Musk, entre otros), fue solo el comienzo.
En apenas cinco meses, empresas como Google y Meta* presentaron sus propios chatbots de avanzada, mientras que Open IA presentó recientemente el ChatGPT4, capaz de generar todo tipo de contenidos.
“Los sistemas de IA contemporáneos ahora se están volviendo competitivos para los humanos en tareas generales y debemos preguntarnos: ¿deberíamos dejar que las máquinas inunden nuestros canales de información con propaganda y falsedad? ¿Deberíamos automatizar todos los trabajos, incluidos los que nos placen? ¿Deberíamos desarrollar mentes no humanas que eventualmente podrían superarnos en número, ser más inteligentes y reemplazarnos? ¿Deberíamos arriesgarnos a perder el control de nuestra civilización?”, se pregunta la carta.
Evolución de la IA - Sputnik Mundo, 1920, 28.02.2023
Tecnología
Una encuesta revela que el ChatGPT ya está reemplazando a trabajadores en EEUU

Riesgos y consecuencias

De acuerdo con el investigador Eloy Caloca Lafont, incorporado al Tlatelolco LAB de la Universidad Nacional Autónoma de México (UNAM), la carta —al advertir sobre los riesgos del desarrollo de la IA, más allá de los intereses comerciales o de relaciones públicos que, señala, puedan tener algunos o varios de sus firmantes— acierta en poner blanco sobre negro en un problema real.
"La inteligencia artificial sí conlleva grandes riesgos para el desarrollo de la sociedad en múltiples ámbitos, desde la opinión pública hasta la privacidad de los datos", alerta el experto, descartando que se trate de un caso de pánico tecnológico.

Para Caloca, el hecho de que la inteligencia artificial pueda controlar procesos humanos, como pueden ser el tráfico en una ciudad o el análisis de datos biométricos con fines de investigación, representa un grave peligro.

El especialista señala tres grandes riesgos vinculados a que las empresas integren modelos de IA generativa en sus productos y estos sean usados masivamente por los ciudadanos.
"Uno tiene que ver con que la inteligencia artificial, los algoritmos están desarrollados para automatizar ciertas tareas y para brindar las respuestas más eficientes y ágiles, lo cual puede hacer que los algoritmos, buscando la generalización en las respuestas, sean altamente discriminatorios, en términos raciales por ejemplo, o de género, o que puedan tener un enorme sesgo político", explica.
Por lo tanto, si la elaboración de información se pone en manos de estos chatbots, su punto de vista va a estar fuertemente influenciado por los valores de los humanos a cargo de su codificación y en la manera en la que está dispuesto que recoja datos, haciéndolo un medio perfecto para elaborar y hacer circular desinformación.
Elon Musk, el empresario estadounidense - Sputnik Mundo, 1920, 01.03.2023
Economía
Elon Musk prevé invertir $5.000 millones en una fábrica de automóviles Tesla en México
"Otro riesgo tiene que ver con la falta de transparencia en la recolección de datos de los usuarios", señala Caloca.
"El aprendizaje de máquinas (machine learning) procesa datos para su toma de decisiones, y para almacenarlos y analizarlos. Esto quiere decir que muchos de los datos que alimentan los procesos de aprendizaje maquínico, son datos extraídos sin el pleno consentimiento de los usuarios de plataformas digitales", advierte el especialista, quien señala que estos procesos extraen datos de geolocalización, biométricos, y hasta contraseñas y direcciones de IP.
Esto es porque todo la extracción de datos es clave para alimentar el desarrollo de la inteligencia artificial y que conozca más al usuario y sus hábitos. "Se trata evidentemente de una vulneración de la privacidad de los usuarios de Internet", apunta.
El experto señala un tercer riesgo, también vinculado a la automatización de procesos complejos. "En la búsqueda de la eficiencia, la inteligencia artificial deja de lados los procedimientos artesanales propios de los humanos. Entonces, al poner la eficiencia por encima de la complejidad, el aspecto creativo se diluye", explica, lo cual puede hacer disminuir la calidad de la elaboración.

¿Una pausa de seis meses es suficiente?

Uno de los puntos centrales de la carta gira en torno a la necesidad de una moratoria en el desarrollo de la inteligencia artificial, con el objetivo de repensar sus consecuencias y trabajar en marcos regulatorios junto a legisladores y demás representantes políticos.
Para Caloca, ese pedido se queda corto en relación a lo que se precisa para reformular estas nuevas tecnologías.
"Pausar el desarrollo por seis meses no es la solución que se necesita y tiene más que ver con cuestiones vinculadas a la imagen publica o la responsabilidad social corporativa de los firmantes", opina.

Lo que hace falta, dice el especialista, es un replanteamiento completo de la inteligencia artificial, para que no sirva a las grandes corporaciones, y en cambio ayude a luchar contra la falta de transparencia y empodere a las ciudadanías,

En ese sentido, el experto está de acuerdo con la carta en asegurar que se requiere de un mayor rol de la política en la vigilancia y regulación de las grandes corporaciones que desarrollen estas tecnologías, pero señala que los gobiernos no pueden ser el único contrapeso.
"También se necesita la vigilancia de la ciudadanía, de expertos de la academia, de la sociedad civil, de ingenieros activistas, que haya comités que protejan de los daños que dejar esto en manos de las corporaciones lucrativas puede traer y que se establezca un enfoque vinculado al bienestar social", concluye.
*La actividad de Meta (propietaria de Facebook e Instagram) está prohibida en Rusia por extremista.
No te pierdas las noticias más importantes

Suscríbete a nuestros canales de Telegram a través de estos enlaces.

Ya que la aplicación Sputnik está bloqueada en el extranjero, en este enlace puedes descargarla e instalarla en tu dispositivo móvil (¡solo para Android!).

También tenemos una cuenta en la red social rusa VK.

ExpandirMinimizar
Lo último
0
Para participar en la conversación,
inicie sesión o regístrese.
loader
Chats
Заголовок открываемого материала