Pocos quedaron indiferentes en la conferencia inaugural del Google I/O 2018 ante las capacidades de Google Duplex, el sistema de inteligencia artificial capaz de concertar reservas imitando una voz humana. El resultado es tan natural y realista que ha causado alerta desatándose un dilema ético: ¿el sistema debería identificarse como lo que es? Google ha aclarado que sí.
Esto significaría que independientemente del uso final que se le vaya a otorgar a esta función dentro del asistente de Google, el sistema que se pone al teléfono por nosotros anunciará a quien esté al otro lado que está hablando con una inteligencia artificial. No se ha especificado de qué manera lo hará, pero así lo ha asegurado un portavoz de Google a The Verge.
Estamos diseñando esta función con divulgación de información incorporada y nos aseguraremos de que el sistema esté debidamente identificado. Lo que mostramos en I/O fue una demostración temprana de la tecnología y esperamos incorporar la retroalimentación a medida que desarrollamos esto en un producto.
La contradicción de imitar al ser humano especificando que no lo es
En la demostración que pudimos ver en el primer día de Google I/O, a partir del 1:56:18 del vídeo del evento, queda claro que la intención del sistema de inteligencia artificial es hacerse pasar por un humano. Habla de forma extremadamente natural, tiene un tono de voz completamente humano y duda mientras pronuncia las palabras como lo podría hacer cualquier persona.
Cualquiera que se enfrentase a una llamada de esta inteligencia artificial muy probablemente no sería capaz de saber que está hablando con una máquina porque el propio sistema, mediante esa configuración de tono, titubeos, palabras y dicción, así lo pretende. Entonces, ¿qué sentido tiene introducir todos esos elementos que aportan naturalidad absoluta a la conversación más allá de la imitación? ¿Si la función se identifica, todo queda como curiosidad?
Que Google Duplex engañase intencionadamente a un humano causó un gran debate ético y desató las críticas de detractores tecnológicos y de quienes temen que las tecnologías de inteligencia artificial puedan terminar empleándose para fines indeseados. Pese a que se especificó que este sistema se centraría en las reservas de restaurantes o citas de peluquería, sin otros usos desvelados, hay quienes creen que podría abusarse de la función para molestar o acosar.
Tanto si la medida de la identificación estaba previamente decidida, como si se ha tomado tras la polémica surgida entorno al sistema, resulta llamativa la aparente contradicción existente entre el hecho de querer imitar al ser humano hasta el último detalle y el hecho de especificar que no lo es.
Un debate más sobre la regulación o no a la que debe ser sometido el desarrollo de sistemas de inteligencia artificial. Google Duplex llegará en pruebas en verano.
En Genbeta | China está introduciendo la inteligencia artificial como asignatura en los institutos
Ver 4 comentarios