La empresa californiana OpenAI, creadora de ChatGPT, anunció el lanzamiento de herramientas para combatir la desinformación ante las decenas de elecciones previstas este año en varios países donde vive casi la mitad de la población mundial. El éxito de la aplicación ChatGPT ha popularizado la inteligencia artificial generativa, pero también ha generado preocupaciones sobre su posible uso en campañas de desinformación destinadas a influir en el voto de los votantes.
Mientras que este año están previstas decenas de elecciones, especialmente en Estados Unidos, India o Gran Bretaña, OpenAI subrayó el lunes su deseo de no permitir el uso de sus herramientas tecnológicas, entre ellas ChatGPT y el generador de imágenes DALL-E 3, con fines políticos. propósitos. "Queremos estar seguros de que nuestra tecnología no se utilizará de una manera que socave" el proceso democrático, explica OpenAI en un blog. “Todavía estamos evaluando la eficacia potencial de nuestras herramientas de persuasión individual. Hasta que sepamos más, no permitiremos que la gente cree aplicaciones para campañas políticas o activistas”, añade OpenAI.
Lea también Vídeos apocalípticos, declaraciones descabelladas... La inteligencia artificial ya en campaña en Estados Unidos
La desinformación (información falsa difundida intencionalmente) y la desinformación (información falsa difundida involuntariamente) el uso de IA podría “socavar la legitimidad de los gobiernos recién elegidos”, según el Foro Económico Mundial, que se celebra hasta el 19 de enero en Davos (Suiza). Los temores a la desinformación electoral se remontan a varios años, pero el acceso del público en general a potentes generadores de texto e imágenes basados en inteligencia artificial aumenta enormemente la amenaza, dicen los expertos.
OpenAI explicó el lunes que está trabajando en herramientas para determinar de manera confiable la procedencia del texto generado por ChatGPT y brindar a los usuarios la capacidad de detectar si una imagen fue creada usando DALL-E 3. “A principios de este año, implementaremos la Las credenciales digitales de la Coalición para la procedencia y autenticidad del contenido”, explica la empresa.
Esta coalición, denominada C2PA, reunirá a Microsoft, Sony, Adobe, Nikkon y Canon. Según OpenAI, ChatGPT, cuando se le pregunta sobre las elecciones estadounidenses, dirigirá, por ejemplo, a los votantes a sitios reconocidos. "Las lecciones aprendidas de este trabajo serán la base de nuestro enfoque para otros países y regiones", dice la compañía, y agrega que DALL-E 3 contiene "barandillas" para evitar que los usuarios generen imágenes de personas reales, particularmente candidatos. Los gigantes estadounidenses Google y Meta ya anunciaron el año pasado iniciativas para regular el uso de la IA en las campañas políticas.
