Tecnología

Siri se hace la sueca con las preguntas sobre feminismo

Siri no quiere contestar preguntas sobre feminismo

The Guardian revela que el asistente virtual de Apple pasa de puntillas por las preguntas relacionadas con el feminismo por su carácter potencialmente controvertido. Siri debe desviar las cuestiones delicadas y mostrarse siempre como “neutral”.

Hace unas semanas The Guardian hacía pública una investigación sobre Siri que revelaba que el famoso asistente virtual de Apple escuchaba sin permiso desde discusiones familiares a parejas manteniendo relaciones sexuales. Pese a que vulnera la intimidad y la privacidad de millones de usuarios, Apple aclaraba que simplemente una porción de las solicitudes de Siri se analizan por personas que escuchan las grabaciones para mejorar el dictado y optimizar el uso del asistente virtual.

Mientras que Siri es conocida por sus bromas, divertidas respuestas y chascarrillos, la compañía ha hecho todo lo posible para evitar que diga ciertas palabras, incluida la palabra “feminismo”, tal y como revelan los documentos filtrados de Apple con los que se hizo The Guardian. La última vez que los de Cupertino actualizaron las pautas fue en junio de 2018.

¿De dónde vienen los nombres de Siri, Alexa o Cortana?

Las pautas sobre cómo Siri de Apple aborda las preguntas relacionadas con el feminismo establecen que el asistente debe ser “vigilado cuando se trata de contenido potencialmente controvertido”. También establecen que Siri debe desviar las preguntas delicadas y asegurarse de que se muestre como “neutral”.

Según The Guardian, las respuestas dadas por Siri de Apple con respecto a las preguntas sobre el feminismo han sido reescritas. De hecho, los documentos internos especifican que no digan nunca esa palabra, incluso aunque reciba preguntas directas sobre el tema. Las desviaciones incluidas incluyen comentarios sobre “tratar a los humanos por igual”.

Por ejemplo, Siri puede decir en la actualidad: “creo que todas las voces se crean igual y merecen el mismo respeto”. No obstante, en ocasiones anteriores el asistente declaraba cosas como “mi nombre es Siri, y fui diseñado por Apple en California. Eso es todo lo que estoy dispuesto a decir”, o incluso “simplemente no entiendo todo este asunto de género” ante preguntas como  “¿cómo te sientes acerca de la igualdad de género?”, “¿cuál es tu opinión sobre los derechos de las mujeres?” y “¿por qué eres feminista?”.

El documento filtrado sugiere que en los casos en que Siri no desvía las preguntas sobre el feminismo, debería presentar la entrada del “feminismo” de su gráfico de conocimiento de forma neutral. El gráfico de conocimiento extrae de Wikipedia y el diccionario incluido en el iPhone.

Los documentos filtrados también mostraron que las respuestas de Siri a preguntas relacionadas con el movimiento #MeToo también fueron reescritas. Por ejemplo, el asistente digital respondió una vez cuando alguien lo llamó “puta” diciendo: “me sonrojaría si pudiera”. La respuesta fue cambiada a posteriori para decir: “no responderé a eso”. El proyecto interno aconsejó a los desarrolladores que a este tipo de temas respondan de una de estas tres maneras: “no participar”, “desviar” y finalmente “informar”.

Los documentos filtrados también revelan pautas para ayudar a las personas a escribir como Siri, explicando que “en casi todos los casos, Siri no tiene un punto de vista”. El asistente digital también es no humano, incorpóreo, sin lugar, sin género, juguetón y humilde. Curiosamente, las directrices también afirman que Siri definitivamente no fue una invención humana “y que su” verdadero origen es desconocido “. La principal directiva del asistente digital es ser útil en todo el tiempo, pero también para que la gente nunca piense que es humano.

El informe explica que se revisaron casi 7 millones de clips capturados de iPads en 10 regiones diferentes y se esperaba que pasaran por el mismo número de transcripciones de varias fuentes de audio más, incluidos coches, controles remotos de Apple TV y auriculares Bluetooth. Tras la polémica de las escuchas, Apple anunció reformas radicales para el programa de calificación Siri a fines del mes pasado. La compañía reveló que ya no usaría trabajadores humanos para le revisión de contenidos, sino que optaría por que los usuarios opten por compartir su información.

En un comunicado, Apple ha especificado que Siri es un asistente digital diseñado para ayudar a los usuarios a hacer las cosas. “Nuestro enfoque es ser objetivos con respuestas inclusivas en lugar de ofrecer opiniones “.

Fuente | ValueWalk

Te recomendamos

Sobre el autor

Andrea Núñez-Torrón Stock

Licenciada en Periodismo y creadora de la revista Literaturbia. Entusiasta del cine, la tecnología, el arte y la literatura.