OpenAI lanza la herramienta de detección de imágenes DALL-E

OpenAI, la empresa de inteligencia artificial respaldada por Microsoft detrás del popular generador de imágenes DALL-E, ha anunciado una nueva herramienta destinada a detectar si las imágenes digitales han sido creadas por IA. La autenticación se ha convertido en un problema importante es el rápido desarrollo de la IA. , con las autoridades preocupadas por la difusión de falsificaciones que podrían afectar a la sociedad. Según lo especificado por la empresa. Actualmente se está probando el clasificador de detección de imágenes de OpenAI. Puede evaluar la probabilidad de que una imagen determinada provenga de uno de los modelos de IA creados por la compañía, como DALL-E 3. OpenAI dijo que durante las pruebas internas en una versión anterior, La herramienta detectó imágenes de DALL-E 3 con aproximadamente un 98 por ciento de precisión, mientras que marcó incorrectamente menos del 0,5 por ciento de las imágenes que no son de IA. Sin embargo, la compañía advierte que las imágenes de DALL-E 3 alteradas son difíciles de contrarrestar. Y la herramienta actualmente marca sólo entre el cinco y el 10 por ciento de las imágenes creadas por otros modelos de IA. OpenAI también dice que ahora agregará marcas de agua a los metadatos de imágenes de IA a medida que más empresas se registren para ponerlas a disposición. y Autenticidad (C2PA) es una iniciativa de la industria tecnológica que establece estándares técnicos para determinar la procedencia y autenticidad del contenido digital. en un proceso llamado marca de agua El mes pasado, el gigante de Facebook Meta dijo que comenzaría a etiquetar los medios generados por IA a partir de mayo utilizando los estándares C2PA. Google, otra importante empresa de IA, también se une a la iniciativa.