Desde que OpenAI lanzó ChatGPT a finales del año pasado, hemos visto cómo otras compañías lanzaban software con Inteligencia Artificial a lo largo de estos meses para competir con ese popular chatbot, pero también con otros fines. Ha sido tiempo suficiente para vislumbrar casi todo lo que es capaz la IA, tanto para lo bueno como para lo no tan bueno, algo que han reforzado expertos del sector como Bill Gates o Geoffrey Hinton, el padrino de la IA de Google. Pero un gran poder implica una gran responsabilidad, por eso ayer las principales empresas de la industria se reunieron para alcanzar una serie de compromisos voluntarios con el desarrollo seguro, protegido y transparente de la tecnología de la Inteligencia Artificial.
Concretamente han sido siete las empresas las que han asistido a una cumbre en la Casa Blanca ayer viernes para llegar a un acuerdo con la administración Biden: implementarán nuevas medidas de protección para mejorar la seguridad de sus sistemas y de quiénes lo usan, como por ejemplo el uso de una marca de agua para contenido generado por IA.
Tras la reunión, el presidente de Estados Unidos Joe Biden ha declarado que se han logrado acuerdos "reales y concretos": 'La inteligencia artificial va a cambiar la vida de las personas de todo el mundo. Las personas que están aquí serán fundamentales para guiar esa innovación con responsabilidad y seguridad por diseño'.
Quiénes son las siete empresas firmantes. Amazon, Anthropic, Google, Inflection, Meta, Microsoft y OpenAI son las entidades que se han comprometido de forma voluntaria (aunque de forma un tanto vaga) para invertir en investigación y seguridad, la realización pruebas de estrés de seguridad y soporte en auditorías de terceros de las vulnerabilidades del sistema.
Llama la atención la ausencia de Apple, una grande del sector que no estuvo presente ni en la reunión como lógicamente, tampoco en los compromisos alcanzados. No obstante, cabe recordar que la reunión de la Casa Blanca tiene carácter voluntario. Según los rumores, en estos momentos Apple se encuentra trabajando en su propio ChatGPT llamado Apple GPT.
Las promesas de las big tech del sector
Tras la reunión, la mayoría de las empresas participantes han emitido comunicados reafirmando sus compromisos pero sin poner encima de la mesa un plan concreto y detallado para la ejecución. La Casa Blanca tampoco ha hecho público la existencia de mecanismos de aplicación para que esas promesas se conviertan en realidad. En la nota de prensa de la Casa Blanca puede leerse el resumen de las promesas y otras declaraciones, si bien a continuación resumimos lo más destacable.
Uno de los compromisos más interesantes para quienes consumen y son expuestos a la inteligencia artificial es la inserción de marcas de agua en el contenido audiovisual generado por la IA, una solicitud expresa de la Casa Blanca en la reunión, según ha filtrado The Verge.
La presencia de marcas de agua facilitarían enormemente la identificación de que quien está detrás de una creación es la inteligencia artificial, minimizando el riesgo de engaños, deep fakes y falsificaciones varias. Como explica la Casa Blanca: 'Esta acción permite que florezca la creatividad con IA, pero reduce los peligros de fraude y engaño'.
OpenAI ha recogido el guante y en una entrada de su blog ha explicado que un acuerdo para implantar marcas de agua requeriría que las empresas 'desarrollen herramientas o API para determinar si un contenido en particular se creó con su sistema' y una limitación: ni el contenido audiovisual creado previamente ni los asistentes de voz en sí mismos entrarán dentro de este compromiso.
Google ya apuntó a este compromiso antes de la reunión, pero tras ella, el presidente de asuntos globales de Google Kent Walker ha concretado que la compañía 'pronto integrará marcas de agua, metadatos y otras técnicas innovadoras en los próximos sistemas generativos'.
La mayoría de las empresas firmantes del acuerdo de la Casa Blanca ya habían hecho promesas similares con anterioridad. Así, Meta declaró este martes que abriría su modelo de lenguaje grande Llama 2, haciéndolo gratis para investigación y la mayoría de usos comerciales, de forma similar a GPT-4, presente tanto en ChatGPT como en Bing.
La otra promesa que ha trascendido de la reunión es la de compartir información de gestión de riesgos de inteligencia artificial en toda la industria y con los gobiernos, la sociedad civil y la academia, proporcionando datos sobre las capacidades, limitaciones y áreas de uso apropiado e inapropiado de sus sistemas de IA. Según la Casa Blanca, el informe incluirá 'tanto los riesgos de seguridad como los riesgos sociales, como los efectos sobre la equidad y el sesgo'.
