¿Paranormal en la tierra de ChatGPT? La muy popular interfaz de inteligencia artificial generativa (IA) que hizo popular a la tecnología estuvo desbloqueada durante varias horas el martes, respondiendo las preguntas de los usuarios con oraciones sin sentido, un recordatorio de que estos sistemas aún están en su infancia. OpenAI, la startup que lanzó el programa a finales de 2022, indicó el miércoles por la mañana en su sitio que ChatGPT volvía a funcionar “normalmente”.
El martes por la tarde, hora de San Francisco, donde reside, anunció “investigando informes de respuestas inesperadas de ChatGPT”. Unos minutos más tarde, la empresa estrella de Silicon Valley aseguró que había “identificado el problema” y “estaba en proceso de resolverlo”. Muchos usuarios han subido capturas de pantalla que muestran respuestas erráticas o incomprensibles del modelo de IA generativa. Esta tecnología de vanguardia permite producir todo tipo de contenidos (textos, sonidos, vídeos), normalmente de sorprendente calidad, previa solicitud en el lenguaje cotidiano.
En el foro para desarrolladores que utilizan herramientas OpenAI, un usuario llamado "IYAnepo" notó el comportamiento "extraño" de ChatGPT. “Genera palabras completamente inexistentes, omite palabras y produce secuencias de pequeñas palabras clave que me resultan ininteligibles, entre otras anomalías”, afirmó. “Se podría pensar que yo había especificado tales instrucciones, pero ese no es el caso. Siento que mi GPT está embrujado”.
Otro usuario, "scott.eskridge", se quejó en el mismo foro de que todas sus conversaciones con el modelo de lenguaje se habían "convertido rápidamente en tonterías durante las últimas tres horas". Il a copié un extrait d'une des réponses de l'interface : «L'argent pour le bit et la liste est l'un des étrangers et l'internet où la monnaie et la personne du coût est l'un des amis et moneda. La próxima vez que mires el sistema, el intercambio y los hechos, recuerda dar”.
OpenAI no proporcionó más detalles sobre la naturaleza del incidente, lo que nos recuerda que la IA, incluso generativa, no tiene conciencia ni comprensión de lo que "dice". El especialista en inteligencia artificial Gary Marcus espera que el incidente sea visto como una “llamada de atención”. “Estos sistemas nunca han sido estables. Nadie ha podido nunca desarrollar garantías de seguridad en torno a estos sistemas”, escribió el martes en su boletín. "La necesidad de tecnologías completamente diferentes, menos opacas, más interpretables, más fáciles de mantener y depurar -y por tanto más fáciles de implementar- sigue siendo primordial", añadió.
