Más sobre robots que aprenden a mentir

10 septiembre 2010

Imagen: Gary Meek

Los más fieles de Fogonazos recordarán que ya hace un tiempo hablamos en Libro de Notas de las investigaciones del profesor Darío Floreano y la manera en que algunos de sus robots habían aprendido a mentir. Ahora, los investigadores de Georgia Tech Research Institute están entrenando a sus robots a identificar situaciones en las que mentir puede ser de utilidad y les están enseñando técnicas de engaño para alcanzar sus objetivos.

Como relatan en BotJunkie, las pruebas consiste en una especie de juego del escondite en el que los robots tienen tres opciones para ocultarse: a la izquierda, a la derecha y el centro. Delante del escenario, hay una serie de testigos que los robots tumban para despistar, es decir, tiran los de un lado para esconderse en el contrario y así despistar al robot que les busca después. Se ve muy bien en el vídeo:


Como advierten los propios investigadores, enseñar a los robots a mentir puede ser un asunto bastante espinoso desde el punto de vista ético, pues tal vez puedan desarrollar esta capacidad con fines no deseados en un futuro lejano. En cualquier caso, consideran que con una programación sólida la facultad de engañar puede resultar útil en algunos escenarios, como el de un posible rescate en el que informar a la víctima de sus posibilidades reales de supervivencia podría no ser la mejor opción.

“La mayoría de los robots sociales”, explica Alan Wagner, uno de los investigadores, “usarán el engaño muy raramente, pero es una importante herramienta porque los robots que reconozcan la necesidad de engañar tendrán ventajas en términos de desarrollo frente a aquellos que no lo reconocen”. Sobre el terreno, la capacidad de engañar será útil para despistar a posibles enemigos y puede ser determinante para que el robot alcance los objetivos para los que le habremos programado.

Enlace: Researchers Give Robots the Capability for Deceptive Behavior (Georgia Tech) | Vía: BotJunkie

Ver: Cuando los robots aprenden a mentir / Enjambre de robots al rescate / Más sobre Robots

14 Respuestas ( Deja un comentario )

  1. Dani dijo...
  2. Cuando se habla de ética en robótica no dejo de inquietarme. Es una tecnología que va más lenta comparada con otras y en la que algún día la ética será una constante. Y entonces recurriremos a la ciencia ficción, las tres reglas, etc...

    Una pequeña y divertida maldad sobre robots:
    Teclea about:robots en la barra de Firefox y pulsa "enter".

  3. Miguel dijo...
  4. ¿Alguien dijo Skynet?

    Típico tópico, pero poco a poco deja de parecer tan imposible.

  5. BioD dijo...
  6. Yo creo que en lugar de enseñarles a mentir, sería mas útil enseñarles a discernir a quien deben decir la verdad y a quien no.

  7. Octavio dijo...
  8. Esto de que se le enseñe a una máquina a mentir o cuándo debe decir la verdad o no... suena tanto a Hal-9000 que casi da miedo.

  9. Syntetyc dijo...
  10. "como el de un posible rescate en el que informar a la víctima de sus posibilidades reales de supervivencia podría no ser la mejor opción."

    Y yo me pregunto, para que va a darle un robot explicaciones sobre nada a alguien que tenga que rescatar xD...
    Robot: vengo a rescatarte, tienes la pierna amputada y los brazos aplastados.
    Superviviente: Pero.. podré volver a tocar la guitarra y montar en bici?
    Robot: mmm... no lo dudes.

    xD

    en fin... no veo justificable con los chorra ejemplos que proponen el que un robot mienta. Que tenga utilidad no lo discuto, pero desde luego las justificaciones que proponen son bastante absurdas.

  11. aberron dijo...
  12. Syntetyc + 1000 Jajajaja! :-)

  13. Noelillo dijo...
  14. Bueno, no se... pero eso no se yo si es mentir del todo... o conseguir una mejor solución en el juego al desviar la búsqueda...

    Sigo pensando que en eso de "maquinas que mientan" nos queda mucho...

    Que seria mentir:

    Que se no se escondiera aun tirando algún muñeco...eso es mentir, sobre todo si se busca otro escondite...xD

    Mientras tanto son formas diferentes de solucionar un problema con dos agentes.

    Saludos!!

  15. Alpha dijo...
  16. La verdad que no veo utilidad alguna en enseñarle a las maquinas a mentir... para eso estamos nosotros los humanos.

  17. Anónimo dijo...
  18. Los comentarios que habéis puestos son bastantes ridículos. Un robot, hoy por hoy, no puede mentir. Lo único que hace es seguir su programación.

    Y la única programación que veo en estos robots, es que uno está programado para tirar aleatoriamente un palo, y después esconderse aleatoriamente en un hueco. El segundo está programado para buscar en el sitio donde el palo está derribado.

    En consecuencia, más que innovación tecnológica, parece que tratan de hacer publicidad engañosa.

  19. Noelillo dijo...
  20. Anonimo:

    Se ve que no has leido todos los comentarios.

    Quizas la entrada... pero no los comentarios.

    Aún así, tiene sus fundamentos en una abstración muy muy básica, ok -> No es publicidad engañosa... pero no es mentir como dices, eso es cierto

    Pero cometes el error de poner todos los comentarios en el mismo saco, sin haberlos leido...

    Saludos

  21. Angel dijo...
  22. Hombre, anonimo, eso de el robot sigue la programacion es un poco chorra.

    Que algo siga una programacion no significa que tenga un comportamiento sencillo y predecible. Los fractales, el juego de la vida, y cualquier simulación de teoria del caos son buenos ejemplos.

    En cualquier caso, estoy de acuerdo en que esto es un poco vaporware.

    Primero, pa que usar robots de verdad? Pa que quede vistoso? No valia una simulacion por ordenador? Total, el problema es bien simple, tira una baliza y escondete.

    Segundo, que tiene esto que ver con mertir? Yo lo veo mas bien como que el programa funciona. Si tu le metes a un procedimiento de optimización que tire una baliza y escoja un lugar donde "esconderse", premiando (menor valor en la funcion de coste) que no te encuentre... pues como que la solucion es bastante gilipollesca, no?

  23. Noelillo dijo...
  24. Puntualizaciçon si aprende no sigue una programación especifica... pues si aprende, y de verdad esta bien usada la palabra... se entrena.

    Si la heuristica o la meta es estar el mayor tiempo sin ser descubierto y encuentra esa solución por si mismo es guay, pero no miente, busca mejores soluciones al problema de ser descubierto en un tiempo...

    Sigo diciendo que no es del todo mentir, de acuerdo con Angel.. pero tampoco creo que sea seguir un programa escrito desde el principio...
    Saludos

  25. Bernardo dijo...
  26. Para ser una audiendia que ensalza la razón, la lógica y la reflexión, me sorprenden los comentarios que dicen que "tienen miedo". Eso es más propio de gente supersticiosa.

    Obviando la discusión sobre si un robot es capaz de mentir, y la naturaleza misma de la mentira (y por tanto la naturaleza de la verdad), lo que sí es lógico pensar es que cuando un robot sea capaz de mentir, el robot a su lado incluirá las posibles mentiras de su oponente en su programación.

    ¿O es que en una mesa de póker todo el mundo se traga los faroles?

  27. Anónimo dijo...
  28. Los Cylons fueron creados por el hombre.
    Se rebelaron.
    Evolucionaron.
    Existen muchas copias.
    Y tienen un plan...