Hace unas semanas, Internet entera se llenó de fotos extrañas y sorprendentemente artísticas generadas por una Inteligencia Artificial que crea imágenes a partir de texto. Esa IA es nada más y nada menos que DALL-E (o DALL-E Mini, su versión gratuita) de la empresa OpenAI, la cual acaba de emitir un comunicado para anunciar que ya es posible editar las imágenes con rostros humanos mediante su popular IA.
Esta función estaba anteriormente vedada por temor a un uso indebido. Sin embargo, los de OpenAI han mejorado sus filtros para eliminar las imágenes con «contenido sexual, político y violento». Lo más interesante de esta noticia es que podrás pedir a DALL-E que cambie el rostro de una persona para que se vea como otra o para que cambie su expresión. La IA también te permitirá cambiar la ropa o el peinado de alguien.
DALL-E ahora puede cambiar rostros, peinados y atuendos, ¿aumenta el riesgo de deepfakes?
DALL-E 2 the A.I. image generator can now do variations off of people/faces. Here's what happens when I upload my photo from Twitter #dalle2 pic.twitter.com/kIZpEBNOGS
— Allan Harding (@allanharding) September 19, 2022
Ante una noticia como esta, es inevitable pensar que alguien usará DALL-E para crear deepfakes y comprometer a otras personas. Por si no lo sabes, deepfake es la técnica que permite cambiar el rostro de una persona en una imagen o vídeo con resultados tan realistas que pueden engañar a cualquiera. Por dar un ejemplo de mal uso, los deepfakes pueden usarse para hacer creer a tu pareja que estás cometiendo una infidelidad, poniendo tu rostro en la imagen de otra pareja. ¡Así de peligrosos son los deepfakes!
OpenAI es consciente de los riesgos que supone esta nueva característica de DALL-E, por lo que han aclarado lo siguiente:
«Con las mejoras en nuestro sistema de seguridad, DALL-E está ahora listo para soportar estos encantadores e importantes casos de uso – al tiempo que minimiza el potencial de daño de los deepfakes”.
En otras palabras, DALL-E detectará intentos de deepfakes y los hará menos realistas para que nadie caiga en la trampa. En la teoría esto suena muy bien, pero veremos cómo funciona en la práctica.
No hay que olvidar que en los términos y condiciones de uso de DALL-E se prohíbe subir imágenes de personas sin su consentimiento, aunque realmente no hay ningún filtro o medida que te impida hacerlo. Por tanto, esperemos que los usuarios se apeguen a la moral y no manipulen a la IA para sus fines maliciosos. En fin, ¿quieres ver de qué es capaz DALL-E? Aquí te explicamos cómo probar DALL-E 2.
