Tecnología

El MIT crea una IA psicópata (para probar la importancia de los datos)

tendencias inteligencia artificial 2018
Escrito por Marcos Merino

A estos investigadores les mueve el ánimo de demostrar una teoría (que los datos proporcionados a los algoritmos a aprendizaje automático importan), y no temen crear el nuevo Skynet en el proceso.

La historia de la ciencia-ficción está llena de universos en los que un robot o supercomputadora ‘se le cruzan los cables’ y termina esclavizando o masacrando a toda la especie humana. Son historias que explotan el miedo que sentimos a crear algo que se salga del camino que le habíamos marcado y no seamos capaces de controlar. Así que los investigadores del MIT Media Lab han tenido una idea ‘brillante’: saltarse la parte del descontrol y optar por crear desde el primer momento una inteligencia artificial psicópata. Como guinda, han decidido bautizarlo ‘Norman’, en honor a Norman Bates, el villano de ‘Psicosis’.

Diseñan un ‘botón rojo’ para someter a inteligencias artificiales

Pero, ¿qué ha motivado a este equipo de científicos a hacer algo así? Pues, sencillamente, el ánimo de demostrar una teoría: que los datos proporcionados a los algoritmos a aprendizaje automático importan, y mucho. Todos recordamos el escándalo que generó Tay, el bot de Twitter que Microsoft lanzó a la Red para que mejorase su capacidad de expresarse de forma humana a fuerza de interactuar con los humanos, y que los trolls terminaron convirtiendo mediante sus conversaciones en un bot agresivo y racista que tuvo que ser desconectado. Ahí la clave estuvo en las conversaciones que sirvieron de materia prima al algoritmo de aprendizaje de Tay .

Así que en el MIT optaron por buscar material gráfico sobre la muerte en “los rincones más oscuros de Reddit” y ‘alimentar’ con eso el algoritmo de Norman. Una vez hecho eso, le sometieron al ‘test de Rorschach’, mostrándole una mancha de tinta. Allí donde un algoritmo con entrenamiento estándar veía flores y tartas de boda, Norman sólo veía a un hombre con una herida mortal y otro atropellado. “Norman solo ha conocido imágenes horribles, por lo que ve la muerte en cualquier imagen que mire”, explican ahora los investigadores del MIT responsable de Norman.

Las 9 profesiones con más psicópatas del mundo

Pero tampoco es el primer experimento del MIT sobre la aplicación de ‘datos oscuros’ al aprendizaje automático: hace dos años, algunos de los creadores de Norman lanzaron “Nightmare Machine”, un algoritmo que utilizaba el aprendizaje profundo para transformar imágenes de rostros o lugares con el objetivo de que pareciera que no estaban en una película de terror.

Vía | CNN Money

Sobre el autor de este artículo

Marcos Merino

Marcos Merino es redactor freelance y consultor de marketing 2.0. Autodidacta, con experiencia en medios (prensa escrita y radio), y responsable de comunicación online en organizaciones sin ánimo de lucro.