By 
Investigadores de la Universidad de Oxford y de la división de inteligencia artificial de Google, DeepMind, han afirmado que existe una alta probabilidad de que las formas avanzadas de IA se vuelvan “existencialmente peligrosas para la vida en la Tierra”.
En un reciente artículo en la revista revisada por pares Revista AI, los investigadores advirtieron que habría “consecuencias catastróficas” si el desarrollo de ciertos agentes de IA continúa.
Destacados filósofos como Nick Bostrom, de la Universidad de Oxford, han hablado anteriormente de la amenaza que suponen las formas avanzadas de inteligencia artificial, aunque uno de los autores del nuevo artículo afirmó que esas advertencias no iban lo suficientemente lejos.
“Bostrom [computer scientist Stuart] Russell y otros han argumentado que la IA avanzada supone una amenaza para la humanidad”, escribió Michael Cohen en un hilo de Twitter que acompañaba al artículo.
“Bajo las condiciones que hemos identificado, nuestra conclusión es mucho más fuerte que la de cualquier publicación anterior: una catástrofe existencial no sólo es posible, sino probable.”
El documento propone un escenario en el que un agente de la IA descubre una estrategia para hacer trampas con el fin de recibir una recompensa que está preprogramada para buscar.
Para maximizar su potencial de recompensa, necesita tanta energía como sea posible obtener. El experimento mental ve a la humanidad compitiendo en última instancia contra la IA por los recursos energéticos.
“Ganar la competición de ‘conseguir utilizar la última parte de la energía disponible’ jugando contra algo mucho más inteligente que nosotros sería probablemente muy difícil”, escribió el Sr. Cohen. “Perder sería fatal.
“Estas posibilidades, aunque sean teóricas, significan que deberíamos avanzar lentamente -si es que lo hacemos- hacia el objetivo de una IA más potente”.
DeepMind ya ha propuesto una salvaguarda contra tal eventualidad, apodándola “el gran botón rojo”. En un documento de 2016 titulado “Agentes seguros e interrumpibles”, la empresa de IA esbozó un marco para evitar que las máquinas avanzadas ignoren las órdenes de apagado y se conviertan en un agente rebelde fuera de control.
El profesor Bostrom describió previamente a DeepMind -cuyos logros en materia de IA incluyen la victoria sobre campeones humanos en el juego de mesa Go y la manipulación de la fusión nuclear- como la más cercana a la creación de una inteligencia artificial de nivel humano.
El filósofo sueco también dijo que sería una “gran tragedia” si el desarrollo de la IA no continuara, ya que tiene el potencial de curar enfermedades y hacer avanzar la civilización a un ritmo que de otro modo sería imposible.
Comments