OpenAI presentó este lunes en una rueda de prensa en Washington, DC, un clasificador que, según la compañía, ayudará a los investigadores de abuso sexual infantil a filtrar el ruido y encontrar rápidamente material dañino sobre el que puedan actuar. La herramienta es capaz de detectar mejor las imágenes abusivas de menores, incluyendo si han sido generadas por inteligencia artificial.

El clasificador, según OpenAI, reduce los falsos positivos que los revisores humanos deben examinar, al tiempo que mejora la identificación de contenido abusivo. Esto es crucial para las líneas de denuncia, que se han visto desbordadas por la avalancha de deepfakes y material generado por IA.

La empresa también está ofreciendo acceso a esta tecnología a organizaciones que trabajan en la protección de la infancia, con el objetivo de que puedan integrarla en sus sistemas de revisión y respuesta. La medida se enmarca en los esfuerzos de OpenAI por mitigar el uso indebido de sus herramientas y colaborar con las autoridades.

La noticia fue reportada por The Verge, que destaca que la compañía busca evitar que los deepfakes saturen las líneas de denuncia de abuso infantil, un problema creciente en la era de la IA generativa.
CAPTURA DE IA

Esta noticia fue extraída, transcrita y resumida en tiempo real por nuestros modelos de inteligencia artificial tras su emisión en medios de comunicación.

Fuente original: The Verge - AI & Tech (EE.UU.) (Tecnología e IA (EE.UU. / Silicon Valley))