Políticas de Generación de Imágenes de ChatGPT: ¿Menos Censura?
OpenAI está dando un paso audaz al relajar sus políticas de moderación de contenido para el generador de imágenes de ChatGPT, alejándose de los rechazos generales hacia un enfoque más matizado.
Este cambio permite a ChatGPT generar imágenes de figuras públicas, características raciales previamente restringidas e incluso símbolos potencialmente odiosos, siempre que se utilicen en contextos educativos o neutrales y no promuevan el extremismo.
Cambios Clave en la Política
La política actualizada marca un cambio significativo en el enfoque de OpenAI hacia la moderación de contenido. Anteriormente, ChatGPT rechazaba las indicaciones que involucraban a figuras públicas como Donald Trump o Elon Musk, o aquellas que solicitaban modificaciones a las características físicas. Ahora, la plataforma puede manejar estas solicitudes.
Según Joanne Jang, líder de comportamiento de modelos de OpenAI, esta evolución tiene como objetivo prevenir daños en el mundo real al tiempo que se abraza la humildad, reconociendo el proceso de aprendizaje de la empresa y adaptándose a la nueva información.
Este movimiento se alinea con el objetivo más amplio de OpenAI de "des-censurar" ChatGPT, permitiéndole manejar solicitudes más diversas y ofrecer una gama más amplia de perspectivas. Sin embargo, no es un libertinaje. Se mantienen las salvaguardias, especialmente con respecto a las imágenes de niños, con GPT-4o teniendo reglas más estrictas que su predecesor, DALL-E 3.
Navegando por los Derechos de Autor y los Estilos Creativos
ChatGPT ahora puede imitar los estilos de estudios creativos como Pixar o Studio Ghibli, abriendo nuevas posibilidades para la generación de imágenes. Sin embargo, todavía evita imitar los estilos de artistas vivos individuales, lo que podría reavivar el debate en torno al uso justo de obras protegidas por derechos de autor en conjuntos de datos de entrenamiento de IA.
El Contexto Más Amplio y las Implicaciones Potenciales
La decisión de OpenAI se produce en medio de un escrutinio creciente de la moderación de contenido de IA, con algunos críticos que alegan "censura" por parte de las empresas de Silicon Valley. Los cambios podrían ser una jugada estratégica, considerando la posible supervisión regulatoria bajo una futura administración Trump.
Si bien el impacto inicial ha sido memes virales al estilo Studio Ghibli, los efectos a largo plazo de estos cambios de política siguen siendo inciertos. Permitir que un chatbot de IA maneje preguntas delicadas podría generar oportunidades y desafíos para OpenAI.
Fuente: TechCrunch