ChatGPT se descarrila: ¡sus respuestas son un galimatías total!

5/5 - (1 vote)

El martes por la noche, ChatGPT, el chatbot estrella de OpenAI, encontró un error inusual. Este modelo de inteligencia artificial, conocido por su capacidad para conversar con fluidez, se desvió repentinamente de su comportamiento habitual. Generó respuestas absurdas, dejando perplejos a los usuarios.

Respuestas incomprensibles y sin sentido.

ChatGPT sigue siendo la IA generativa más utilizada. La empresa estrella de Silicon Valley lo presentó a finales de diciembre de 2022 y poco a poco lo fue beneficiando muchas actualizaciones para mejorar sus habilidades. La IA es capaz de comprender el lenguaje natural y genera respuestas a las consultas que se le presentan. ChatGPT puede incluso responderte en persona.

Sin embargo, entre el martes por la noche y el miércoles, muchos usuarios informaron haber recibido respuestas sin sentido de ChatGPT. AI mezclar varios idiomas en sus respuestas y, a veces, agrega emojis. En algunos casos, el sistema reproduce la misma respuesta hasta llenar completamente la pantalla del usuario. Para otros, ChatGPT comienza generando respuestas normales. y sigue con puro galimatías. Algunos han señalado que incluso la versión paga de ChatGPT Enterprise se ve afectada por este error.

Sorprendido por estos respuestas inconsistentes de la IAvarios usuarios publicaron capturas de pantalla de las divagaciones de ChatGPT en Reddit y X. ” ChatGPT tiene un derrame cerebral “, comenta un usuario, “ esta embrujado », escribe otro.

Una optimización de la experiencia del usuario en el origen del error.

Tras los informes de numerosos usuarios, OpenAI analizó el mal funcionamiento que afectó a ChatGPT el martes por la noche. La empresa determinó que la causa del problema era un optimización destinada a mejorar la experiencia del usuario.

De hecho, grandes modelos de lenguaje como ChatGPT se basan en probabilidades para generar oraciones. Seleccionan “tokens”, elementos básicos del texto, para imaginar la secuencia de palabras. El error estaba en esta selección, que daba como resultado secuencias de palabras sin sentido.

OpenAI reaccionó rápidamente implementando un parche al identificar la causa del problema. El error se solucionó el miércoles por la mañana.

Una tecnología aún por perfeccionar

ChatGPT tiene capacidades impresionantes. Un escritor francés incluso admitió que esta IA escribe mejor que él. Sin embargo, este incidente demuestra que esta tecnología aún reciente aún no es estable. Además, cabe señalar que este no es el primer problema que enfrenta la IA. Por ejemplo, a finales de diciembre, ChatGPT se había vuelto vago y pedía a los usuarios que completaran las tareas ellos mismos. Otros usuarios también lograron eludir los filtros de seguridad de la IA manipulando mensajes para generar contenido prohibido.

Tras este problema encontrado por ChatGPT, Gary Marcus, especialista en IA, enfatiza quenadie ha podido nunca desarrollar garantías de seguridad absolutas en torno a estos sistemas “. Sin embargo, es fundamental mejorar su fiabilidad.