Los bots de inteligencia artificial generan dudas sobre la privacidad de los datos que usan para entrenarse

Proteger la información privada de los usuarios y ofrecer mayor transparencia son los mayores desafíos de las herramientas conversacionales. Meta compartió con TN Tecno las medidas y procesos que utiliza su asistente con IA generativa para alimentar su base de datos.

28 de septiembre 2023, 22:07hs

En el marco del evento Connect 2023, Meta presentó, además de sus nuevos productos para competir con Apple, como sus anteojos inteligentes y un visor de realidad virtual, importantes novedades relacionadas con desarrollos de inteligencia artificial generativa.

Estas nuevas experiencias y funciones de IA servirán para darle un plus a los chats en WhatsApp y brindar herramientas para ser fomentar la creatividad, productividad y ser más expresivo en el uso diario de la aplicación.

Leé también: WhatsApp quiere entrar a la fiesta de la inteligencia artificial: ¿qué planes tiene?

Meta AI es uno de los desarrollos presentados el miércoles por Mark Zuckerberg. Se trata de un nuevo asistente basado en inteligencia artificial con el que los usuarios podrán interactuar como si estuvieran hablando con otra persona. Este bot, impulsado por un modelo personalizado que aprovecha la tecnología de Llama 2, tiene acceso a información en tiempo real a través de Bing y ofrece una herramienta para la generación de imágenes.

Al igual que en los casos de ChatGPT y Bard, un bot conversacional despierta dudas acerca de la privacidad de las conversaciones y de los datos que obtiene, tanto como para generar nuevas respuestas como para mantener la seguridad de la información recolectada.

Al respecto, Meta compartió con TN Tecno una serie de aclaraciones y respuestas acerca de las medidas y procesos utilizados para proteger la privacidad y ofrecer mayor transparencia.

¿Cómo se entrenan los modelos de IA generativa de manera que respeten la privacidad de las personas?

El modelo de lenguaje, Llama 2, lanzado a principio de 2023 con fines académicos y comerciales, se entrena sin tener en cuenta los datos de los usuarios de Meta.

Los modelos de IA generativa requieren una gran cantidad de datos para entrenarse de manera efectiva, por lo que se utiliza una combinación de fuentes para ese entrenamiento, incluida información que está disponible públicamente en internet, datos con licencia e información de los productos y servicios de Meta.

Meta explicó a TN Tecno que ciertos sitios web que comúnmente comparten información personal fueron filtrados y excluidos. Las publicaciones compartidas públicamente de Instagram y Facebook (incluidas fotos y texto) fueron parte de los datos utilizados para entrenar los modelos generativos de IA. Pero las publicaciones privadas de las personas no son tenidas en cuenta para entrenar a su inteligencia artificial.

Leé también: WhatsApp: una nueva función podría mandar al frente a quienes realizan una práctica habitual en la aplicación

Tampoco se utiliza el contenido de los mensajes privados con amigos y familiares, pero sí se tienen en cuenta los datos de uso de stickers de IA y las búsquedas de un sticker para usar en un chat, para mejorar los modelos de stickers de IA.

“Usamos la información que las personas comparten cuando interactúan con nuestras funciones de IA generativa, como Meta AI o empresas que usan IA generativa, para mejorar nuestros productos y para otros fines”, aclararon de Meta a TN Tecno.

¿Qué sucede con la información que envían los usuarios a las funciones de IA generativa?

La IA puede retener y usar la información que los usuarios comparten en un chat para brindar respuestas más personalizadas o información relevante en esa conversación. Y también puede compartir ciertas preguntas que se hagan con socios confiables, como proveedores de búsqueda, para brindar información más relevante, precisa y respuestas actualizadas.

Leé también: WhatsApp: las 5 nuevas funciones que todo usuario de la plataforma debería conocer

“Es importante destacar que entrenamos y ajustamos nuestros modelos de IA generativa para limitar la posibilidad de que la información privada que el usuario pueda compartir con funciones de IA generativa aparezca en respuestas para otras personas”, explicaron. “Utilizamos tecnología automatizada y personas para revisar las interacciones con nuestra IA para que podamos, entre otras cosas, reducir la probabilidad de que los resultados de los modelos incluyan información personal de alguien, así como mejorar el rendimiento del modelo”, aclararon.

En este aspecto, Meta informó que agregó comandos que permiten eliminar información compartida en cualquier chat con una IA en Messenger, Instagram o WhatsApp. Y afirmaron que el uso de una función de IA generativa proporcionada por Meta no vincula la información de las cuentas de WhatsApp con la información de las cuentas en Facebook, Instagram ni ninguna otra aplicación proporcionada por Meta.