ChatGPT
El aviso de uno de los creadores de ChatGPT sobre la Inteligencia Artificial: "Nos matarían si lo intentaran"
Paul Christiano, uno de los creadores de ChatGPT, habla sobre las consecuencias que podría tener el desarrollo de la Inteligencia Artificial (IA) sin control.
Publicidad
Uno de los creadores de ChatGPT se suma a hablar sobre las consecuencias que implica el desarrollo de la Inteligencia Artificial (IA). Si el jefe de la IA del Pentágono ya avisaba sobre sus efectos, ahora es el turno del exempleado Paul Christiano.
Actualmente es el director del Alignment Research Center, un centro de investigación en el que tratan de "alinear" los intereses de las futuras IA con el de la humanidad para que no existan problemas entre ambas. Ahora, ha publicado una carta en la que contesta a un colega explicando qué puntos son los que concuerda y en cuáles no.
Según Christiano, hay una prosibilidad significativa de que la tecnología provoque la destrucción de la humanidad. El principal peligro, según afirmó, vendrá cuando los sistemas de IA alcancen y superen la capacidad cognitiva de un ser humano.
"Hay un 50% de riesgo de desgracia una vez que llegue tal momento", predijo. Paul Christiano cree que hay una cierta probabilidad de que una IA tome conciencia propia y sea capaz de comportarse igual o de forma más inteligente que un humano hasta el punto de desafiarnos.
"Si por alguna razón todos estos sistemas de IA intentaran matarnos, definitivamente nos matarían"
A pesar de esto, Christiano considera que son problemas que se pueden controlar y solucionar. Sin embargo,
"Existe una probabilidad razonable de que todos muramos. Si por alguna razón todos estos sistemas de IA intentaran matarnos, definitivamente nos matarían. Creo que esta es la razón más segura por la que yo moriré personalmente", revela.
Aunque muchos desarrolladores de IA creen que este problema no llegará, algunos sí que se preparan para ello. Entre ellos se encuentra Elon Musk, quien asegura que "incluso la dependencia benigna de la IA/automatización es peligrosa para la civilización si llega al punto en que finalmente olvidamos cómo funcionan las máquinas".
La alerta del jefe de IA del Pentágono
El jefe de IA del Pentágono, Craig Martell, quien ha expresado "estar muerto de miedo" por el uso que las personas puedan darle. Martell explicó que "mi temor es que confiemos demasiado en estas herramientas sin que los proveedores de ese servicio incorporen las garantías adecuadas y la capacidad para que podamos validar" la información que recibimos.
El experto hizo referencia a varios ejemplos como la simulación de avatares, la clonación de voz o la calidad similar a la fotográfica en las imágenes que han sido generadas por IA. "Esta información desencadena una respuesta psicológica que lleva a pensar que esto tiene autoridad", apuntó.
Publicidad
