Twitter ha lanzado un programa de recompensas específico para mejorar su algoritmo de recorte de imágenes, con el que espera que los 'hackers' que se apunten a esta competición contribuyan a conocer los potenciales daños que generar.
La competición, distinta del programa de recompensas por fallos de seguridad, dará a los participantes acceso tanto al modelo como al código empleados por la plataforma para realizar un recorte de la imagen de los 'tuits' cuando esta excede determinadas dimensiones.
La compañía insta a los participantes a demostrar los daños potenciales que puede introducir el algoritmo de recorte, ya sean intencionales o involuntarios, con especial atención a los daños que puedan dirigirse a las comunidades marginales.
Twitter revelará a los ganadores durante DEFCON, el próximo 9 de agosto, como ha informado la compañía en la página de HackerOne. Los reconocerá con premios económicos que oscilarán entre los los 500 y los 3.500 dólares.
Algoritmo de prominencia
El algoritmo en cuestión, conocido como algoritmo de prominencia, genera una imagen previa y para ello se basa en la forma en que ve el ojo humano, priorizando lo que puede ser más importante, y estima lo que una persona podría querer ver primero dentro de una imagen, como ya ha explicado Twitter en otras ocasiones.
Sin embargo, un experimento realizado por el ingeniero de criptografía e infraestructura Tony Arcieri mostró que el algoritmo estaba sesgado, y que en su recorte automático perjudicaba a las personas negras y a las mujeres, cuando se enfrentaban dos imágenes.
En mayo, la compañía compartió los resultados del estudio que había llevado a cabo, cuyas conclusiones mostraron que el algoritmo se encuentra dentro de lo que se considera equidad en términos de aprendizaje automático, si bien muestra un ligero sesgo a favor de las personas blancas y las mujeres.
