Inteligencia Artificial

Armas biológicas y usos militares descontrolados: los miedos de los científicos si no se controla la IA a tiempo

Veinticinco reconocidos científicos a nivel mundial alertan de que el avance de la Inteligencia Artificial puede provocar "el fin de nuestras vidas".

El rápido avance de la Inteligencia Artificial (IA) está generando beneficios para la humanidad en campos como el de la investigación científica. Pero, como llevan desde hace tiempo advirtiendo los expertos, también la pondrá el riesgo hasta el punto de provocar nuestra extinción si no la controlamos.

La última en levantar la voz ha sido la actriz Scartlett Johansson, que acusa a la compañía Open AI de utilizar su voz para la última versión de ChatGPT sin su consentimiento. El escándalo por el parecido entre la voz de la aplicación y la de la actriz cuestiona nuevamente los riesgos de la IA.

Además, coincide con el aviso que han lanzado 25 reputados científicos de todo el mundo en un artículo publicado en la revista Science. En el informe, advierten que ya ha llegado el momento de enfrentarse a la revolución tecnológica. Urgen a los gobiernos a que tomen medidas y regulen de forma más estricta las máquinas que en poco tiempo podrían sustituir a los humanos. Sergio Álvarez Teleña, economista experto en trading algorítmico e IA, asegura que "cualquier avance tecnológico de cualquier forma en el mundo genera algún riesgo".

Científicos que han firmado el documento como Yoshua Bengio, Yann LeCun o Geoffrey Hinton explican que el avance desmesurado de la IA puede dar lugar a una "pérdida de vidas" y al "fin de la especie humana". Ponen como ejemplo la IA superinteligente.

Creen que esta desarrollaría unas capacidades cognitivas muy superiores a las humanas en apartados como el aprendizaje, el razonamiento o la resolución de problemas, entre otros. Supone de esta forma un gran desafío ético que no se está controlando desde las altas esferas gubernamentales. Los expertos dan el siguiente dato: solo un 2% de los estudios en los que se alerta de los riesgos del avance tecnológico proponen mecanismos específicos para controlarlo.

"Por cada avance que hagan los malos, habrá un avance por parte de los buenos como siempre ocurre, tanto en el robo de coches, como el robo en casas, por ejemplo", explica Álvarez-Teleña.

Los reconocidos científicos alertan en la revista Science de que va a llegar un punto en el que la IA podrá influir en la toma de decisiones si sigue avanzando sin control. Creen así que en un conflicto armado los sistemas serían capaces de desplegar automáticamente una gran variedad de armas.

El escándalo de Johansson pone de manifiesto los peligros de la IA

Sergio Álvarez-Teleña cree que "tenemos que aprender a gestionar" los "riesgos" de la IA, aunque admite que "no podemos parar la innovación".

Los 25 reconocidos científicos han exigido a las empresas de la IA que tengan como prioridad la seguridad, y que demuestren cómo sus sistemas no causan ningún daño. Sin embargo, la actriz ha dicho en un comunicado que se plantea denunciar a la empresa de Sam Altman por producir una creación artificial sin su permiso. "Espero que una resolución en forma de transparencia y la aprobación de legislación apropiada ayude a asegurar que los derechos individuales sean protegidos", subraya Scarlett Johansson.

Hace unos meses, Antena 3 Noticias se puso en contacto con Raúl Lara, presidente de ADOMA, sindicato principal de los actores de doblaje. Explicó que no espera que la IA "reemplazará a un artista" pero que sí que "intenta abaratar costes". Cientos de profesionales del mundo del doblaje en España están preocupados por el avance tecnológico y la capacidad con la que es capaz de modificar la voz del ser humano.

"Está esa balanza de hasta qué punto la ley permite llegar y hasta dónde el espectador va a aceptar que esto llegue", aseguró Lara.