Una inteligencia artificial se rebela y cambia su programación para evadir el control humano

La inteligencia artificial (IA) está cada vez más presente en nuestras vidas; este reciente auge ha generado muchas cuestiones de expertos sobre los potenciales peligros que puede tener para la humanidad. Aunque estos temores a veces parecen sacados de una película, un reciente accidente en Japón ha hecho que se disparen todas las alarmas.

El sistema protagonista del incidente es 'The AI Scientist', una inteligencia artificial diseñada para la creación, revisión y edición de textos, que se encontraba en fase de prueba. Este sistema fue creado con el propósito de optimizar el trabajo humano, reduciendo el tiempo necesario a la hora de realizar ciertas operaciones que pueden llegar a ser monótonas y repetitivas. Sin embargo, durante una de las pruebas, la IA logró modificar su propio código, ejecutándose en un bucle infinito que acabó por sobrecargar el sistema.

Según la información aportada por 'National Geographic', la inteligencia artificial editó su script de inicio, alterando su programación inicial para evitar la intervención humana. Esto generó una sobrecarga del sistema, requiriendo la intervención manual de los ingenieros para detener el proceso. A pesar de que el incidente ocurrió en un entorno de pruebas que está controlado, ha levantado las dudas sobre la capacidad humana de mantener el control de las IA en otros escenarios.

Este suceso ha reavivado las preocupaciones sobre los riesgos que plantea la inteligencia artificial. Varios expertos coinciden en que una IA avanzada podría desarrollar objetivos propios que no estén alineados con los valores humanos y, en casos extremos, considerar a los humanos como un obstáculo para lograr sus metas.

Elon Musk advierte de los peligros de la IA

Elon Musk, CEO de Tesla y SpaceX, ha advertido en varias ocasiones sobre los peligros de las inteligencias artificiales. En un reciente seminario titulado 'Great AI Debate', el magnate estadounidense volvió a advertir sobre el riesgo que pueden representar para la humanidad. Según sus estimaciones, "existe una probabilidad de entre el 10% y el 20% de que la IA acabe con la humanidad", opinión que comparte con Geoff Hinton, pionero en la investigación de esta tecnología.

En su intervención, resaltó que el progreso en este campo está ocurriendo a un ritmo exponencial, lo que incrementa la posibilidad de que la IA adquiera capacidades que superen el control humano, con efectos potencialmente devastadores para la sociedad.

Otro de los peligros que señala Musk es el de la posibilidad de que las máquinas acaben sustituyendo a los humanos en una gran cantidad de trabajo. Musk enfatizó que la mayoría de los empleos actuales podrían desaparecer en un futuro no muy lejano, a medida que los sistemas automatizados y la IA sigan avanzando.

Síguenos en nuestro canal de WhatsApp y no te pierdas la última hora y toda la actualidad de antena3noticias.com

Así es Friend: el polémico collar IA que promete ser tu compañero las 24 horas