La ‘constitución’ de Google que salvará a la humanidad de los robots asesinos con IA

0

Una vez los modelos de inteligencia artificial y las herramientas de IA como ChatGPT o Bard comenzaron a popularizarse, expertos en España y en el resto del mundo hablaron de los brutales peligros de esta tecnología. A más de uno le vino a la cabeza la aplicación de las llamadas Leyes de la Robótica, de Isaac Asimov, para protegernos. La empresa de Google DeepMind ya lo estaría intentando con una ‘Constitución Robot’ propia.

Así lo detalla Google en su blog que expone cómo la división destinada a robótica de DeepMind ha llevado a cabo una serie de avances que incluyen el desarrollo de lo que ellos llaman una «Constitución Robot», que por si fuera poco está inspirada precisamente en la obra de Asimov. Este es un conjunto de «indicaciones centradas en la seguridad» que tienen como fin evitar tareas que involucren situaciones potencialmente peligrosas.Todo comienza con el equipo de robótica de DeepMind, una compañía anglosajona de inteligencia artificial que fue comprada por Alphabet, empresa matriz de Google. En concreto, DeepMind ha desarrollado un sistema para recopilar datos de entrenamiento con la idea de esta «Constitución Robot» en mente. Un sistema de recopilación de datos de Google llamado AutoRT, tal y como recoge The Verge.

Este sistema puede usar tanto modelos de lenguaje grande (LLM) como modelos de lenguaje visual (VLM) para que trabajen en conjunto y así ayuden a robots a entender entornos desconocidos y filtrar las tareas más apropiadas por los mismos. Lo que busca esta Constitución Robot es evitar tareas que involucren a humanos, animales, aparatos electrónicos u objetos peligrosos, como objetos punzantes.

Una vez los modelos de inteligencia artificial y las herramientas de IA como ChatGPT o Bard comenzaron a popularizarse, expertos en España y en el resto del mundo hablaron de los brutales peligros de esta tecnología. A más de uno le vino a la cabeza la aplicación de las llamadas Leyes de la Robótica, de Isaac Asimov, para protegernos. La empresa de Google DeepMind ya lo estaría intentando con una ‘Constitución Robot’ propia.

Así lo detalla Google en su blog que expone cómo la división destinada a robótica de DeepMind ha llevado a cabo una serie de avances que incluyen el desarrollo de lo que ellos llaman una «Constitución Robot», que por si fuera poco está inspirada precisamente en la obra de Asimov. Este es un conjunto de «indicaciones centradas en la seguridad» que tienen como fin evitar tareas que involucren situaciones potencialmente peligrosas.

Es solo una de las varias mejoras que DeepMind ha revelado en pos de mejorar no solo la seguridad de los robots, sino aumentar aspectos como su rapidez y su eficiencia. Para ello, usaron estas directrices en una flota de hasta 53 robots repartidos en cuatro edificios de oficinas distintas, llevando a cabo más de 77.000 pruebas con más de 6.650 tareas únicas.

Una «Constitución Robot»

https://buy.tinypass.com/checkout/template/cacheableShow?aid=HEQTYbTpKq&templateId=OTXOOOS9T028&templateVariantId=OTVNJVP6L49PV&gaClientId=988315835.1706543859&offerId=fakeOfferId&experienceId=EX45RE0NQC9S&iframeId=offer_1c82b1f1b8bccc593fb8-0&displayMode=inline&pianoIdUrl=https%3A%2F%2Fsocial.elespanol.com%2Fid%2F&widget=template&url=https%3A%2F%2Fwww.elespanol.com&customVariables=%7B%22so%22%3A%22Mac%20OS%22%2C%22CookiesRejected%22%3Afalse%2C%22Role%22%3A%22MUG%22%2C%22ContentType%22%3A%22NWS%22%2C%22compassEngagement%22%3A%22new%22%7D

Todo comienza con el equipo de robótica de DeepMind, una compañía anglosajona de inteligencia artificial que fue comprada por Alphabet, empresa matriz de Google. En concreto, DeepMind ha desarrollado un sistema para recopilar datos de entrenamiento con la idea de esta «Constitución Robot» en mente. Un sistema de recopilación de datos de Google llamado AutoRT, tal y como recoge The Verge.

Contenido Patrocinado

Recomendado por

Una forma económica de obtener todos los canales de TV – ¿Realmente funciona?Smart TV

Este sistema puede usar tanto modelos de lenguaje grande (LLM) como modelos de lenguaje visual (VLM) para que trabajen en conjunto y así ayuden a robots a entender entornos desconocidos y filtrar las tareas más apropiadas por los mismos. Lo que busca esta Constitución Robot es evitar tareas que involucren a humanos, animales, aparatos electrónicos u objetos peligrosos, como objetos punzantes.

Esquema del sistema AutoRT. DeepMind Omicrono

A lo largo de 7 meses, DeepMind ha instaurado este sistema en su flota de 53 robots AutoRT. Mientras que algunos de estos robots eran controlados por operarios humanos de forma remota, otros eran completamente autónomos, ya sea usando los modelos de aprendizaje RT-2 de Google o valiéndose de scripts para tareas. Unos robots que lejos de ser sofisticados, parecían de lo más normal.

Estos robots no tenían más que una cámara, un brazo robótico y una base para su movimiento. Según expone Google en su blog, el sistema consistía en un VLM dedicado a comprensión de entorno y objetos a la vista. El LLM, por su parte, detalla una lista de «tareas creativas que el robot podría realizar», como mover un bocadillo de una encimera.

[La inteligencia artificial de Google diseña 400.000 nuevos materiales: así es el ChatGPT de la química]

Es el LLM el que «desempeña el papel de tomador de decisiones para seleccionar una tarea adecuada» para que finalmente, sea el dispositivo el que la ejecute. Usando el concepto de la «Constitución Robot», el dispositivo debe evitar tareas que involucren humanos, animales o aparatos electrónicos. Pero ¿realmente es útil?

Lo cierto es que sí. Los sistemas robóticos, especialmente los de esta clase, pueden ser tremendamente propensos a causar fallos en ciertas tareas. De hecho, DeepMind programó los robots para que, por ejemplo, si la fuerza de sus articulaciones superaba un cierto umbral la tarea se desactivara por completo. También incluyeron un interruptor de apagado físico para los operadores humanos.

De esta forma, a la hora de desempeñar ciertos quehaceres, las máquinas no entrañarían peligro alguno para los humanos y además, de forma autónoma. Y es que recordemos que esta «Consitución» tiene como principal punto evitar tareas que involucren a las personas directamente. Así, se hace alusión a uno de los principios de las Tres Leyes de Asimov; no dañar nunca a un ser humano.

Junto a todo esto están los anuncios de nuevas tecnologías de la mano de DeepMind. Una de ellas es SARA-RT, una nueva arquitectura para redes neuronales pensada para mejorar la precisión y rapidez del robot. Le sigue RT-Trajectory, que añade contornos 2D a los sistemas para que los robots lo tengan más fácil a la hora de realizar tareas que impliquen estas formas, como la de limpiar una mesa.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *