Google está tomando medidas enérgicas contra los deepfakes. El gigante de las búsquedas ha anunciado planes para facilitar la eliminación a gran escala de contenido sexual explícito no consensuado.
En el anuncio, publicado a través de la Blog de GoogleLa directora de producto, Emma Higham, afirma que se han introducido cambios para combatir la nueva forma de abuso.
Los deepfakes son vídeos en los que se altera digitalmente el rostro o el cuerpo de una persona para incluirlos en una foto o un vídeo. Suelen ser sexualmente explícitos y se utilizan con fines maliciosos o para difundir información falsa.
Si bien desde hace mucho tiempo las personas pueden solicitar la eliminación de imágenes de la Búsqueda, se han desarrollado nuevos sistemas para facilitar el proceso.
Higham explica: “Cuando alguien solicita con éxito la eliminación de contenido falso explícito no consensuado que lo presenta de la Búsqueda, los sistemas de Google también intentarán filtrar todos los resultados explícitos en búsquedas similares sobre esa persona.
“Además, cuando alguien elimina con éxito una imagen de la Búsqueda según nuestras políticas, nuestros sistemas buscarán y eliminarán cualquier duplicado de esa imagen que encontremos”.
Esto significa que se pueden abordar copias de la imagen al mismo tiempo, deteniendo así el deepfake.
Higham dice que esto se ha probado y “ya se ha demostrado que es exitoso para abordar otros tipos de imágenes no consensuadas”.
“Estos esfuerzos están diseñados para darle a las personas mayor tranquilidad, especialmente si les preocupa que en el futuro aparezca contenido similar sobre ellos”.
La Búsqueda de Google reducirá la clasificación de los sitios web denunciados por deepfakes
Google también está dificultando que las imágenes aparezcan en los resultados de búsqueda, ya que estas creaciones de contenido falso se verán reducidas en las clasificaciones.
“En primer lugar, estamos implementando actualizaciones de clasificación que reducirán el contenido falso explícito en muchas búsquedas.
“Para las consultas que buscan específicamente este contenido e incluyen nombres de personas, intentaremos mostrar contenido de alta calidad y no explícito, como artículos de noticias relevantes, cuando esté disponible.
“Las actualizaciones que hemos realizado este año han reducido la exposición a resultados de imágenes explícitas en este tipo de consultas en más del 70 %. Con estos cambios, las personas pueden leer sobre el impacto que tienen las deepfakes en la sociedad, en lugar de ver páginas con imágenes falsas reales no consensuadas”.
Google degradará los sitios que reciban un gran volumen de eliminaciones por contener imágenes explícitas falsas, lo que impedirá que se muestren cuando se busquen.
Si bien estas nuevas características marcan un cambio importante, Higham dice que “hay más trabajo por hacer para abordar este problema” y que se desarrollarán más soluciones en el futuro.
Crédito de la imagen: vía Ideogram
