¡Escándalo, Géminis genera caballeros medievales y nazis negros!

Vota este post

Gemini, la IA conversacional de Google, ha sido acusada de producir representaciones inexactas de la historia. Estos errores generaron controversia, lo que llevó a la empresa a disculparse y suspender temporalmente la funcionalidad de generación de personas de su IA.

Google suspende temporalmente la generación de imágenes de personas

A finales de 2023, Google presentó Gemini, su modelo de lenguaje de gran tamaño. Luego, la empresa cambió el nombre de su AI conversacional Bard con el mismo nombre. Géminis es capaz de generar texto como ChatGPT así como crear imágenes como DALL-E 3 y Midjourney.

El usuario describe sus solicitudes y la IA genera imágenes fieles a la descripción. Sin embargo, la funcionalidad de generación de imágenes eactualmente no disponible. De hecho, Google ha temporalmente suspendió esta opción tras recientes controversias en torno a las representaciones históricas producidas por la IA.

La IA de Google sólo genera personas de piel oscura

Los usuarios descubrieron fallas en el sistema de generación de imágenes de Google. Cuando se le pidió que creara figuras históricas, Géminis a menudo generaba personas con diferentes colores de piel. inexacto en relación con el contexto histórico.

Por ejemplo, se generaron solicitudes para producir soldados alemanes en 1943 o vikingos. imagenes de gente negra, lo cual es históricamente incorrecto. Asimismo, las representaciones de personajes históricos como los Padres Fundadores de los Estados Unidos, los caballeros medievales o incluso el Papa, mostraban con frecuencia personajes de piel oscura.

Los hombres blancos están prácticamente ausentes de los resultados generados por Gemini para este tipo de consultas.

En la red social X, los usuarios acusaron a Géminis de este hecho. Un ex empleado de Google incluso dijo que la empresa rSe negó a reconocer la existencia de los blancos.. Esta controversia ha incluso dio un giro político. Influencers de extrema derecha en Estados Unidos han acusado a Google de querer cambiar la historia con imágenes inexactas y borrando la representación de las poblaciones blancas.

Google reconoce sus errores y se compromete a corregir la situación

Los modelos de IA generativa a menudo enfrentan críticas por la amplificación de los estereotipos raciales. Deseoso de evitar cualquier discriminación. y para distinguirse de otras IA, Google intentó imponer una mayor diversidad en su IA Gemini. Desafortunadamente, esto El enfoque no produjo los resultados esperados. y condujo a inconsistencias históricas.

Google reconoce sus errores y se disculpa. Actualmente, la empresa está trabajando para corregir estos sesgos en su modelo. Pero esta controversia también atestigua dellocura creciente para Geminis. El gigante americano deberá entonces asumir el desafío de conciliar exactitud histórica y diversidad para recuperar la confianza de los usuarios.