Un “botón rojo” para impedir la rebelión de robots

Los peligros de la llamada inteligencia artificial han sido mencionados en más de una ocasión por diversos científicos, entre ellos el brillante físico Stephen Hawking, quien señaló que podría ser “el peor error de la humanidad”; esta temática ha sido trabajada también en relatos de ciencia ficción, como la película que lleva precisamente el nombre de “Inteligencia Artificial”.

Para prevenir estos efectos nocivos es que el equipo científico DeepMind, de Google, ha comenzado a trabajar en un “gran botón rojo”, es decir, un mecanismo que permitiría al operador humano interrumpir el funcionamiento de la inteligencia artificial, en caso de que un robot se encontrara en una secuencia de acciones que pusieran en riesgo a su entorno.

Es decir, al tiempo que se avanza en el desarrollo de una inteligencia autónoma, mediante los llamados “agentes de aprendizaje por refuerzo”, se ha comenzado a trabajar en la prevención de sus efectos colaterales, limitando de alguna manera dicha autonomía, como si se tratara, en términos mitológicos, de dejar un “talón de Aquiles” en el robot, para reservar un medio de control en manos de sus creadores, que no pueda ser advertido ni bloqueado por su propia inteligencia.   

Fuente: RT

Imagen: Shutterstock