La IA de Google confundió a un autor de manga con un pirata y prohibió su cuenta
Arkadiy Andrienko
Artista de manga japonés Itosugi Masahiro perdió su cuenta de Google después de subir su propio manga: el algoritmo lo confundió con contenido pirateado, dijo el autor en X. Según el autor, estaba transfiriendo datos de su viejo manga a Google Drive cuando el sistema, sin previo aviso, lanzó un error y luego una notificación de baneo. Se trataba de contenido protegido por derechos de autor, y el algoritmo no tuvo en cuenta que el uploader era el titular de los derechos.
Me da vergüenza admitirlo, pero mi cuenta de Google fue baneada. Cuando estaba subiendo datos de un cómic que dibujé hace mucho tiempo, apareció una advertencia. La apelación fue simplemente rechazada — y eso es todo, cuenta bloqueada. Así de fácil.
El intento de apelar la decisión fue infructuoso. La apelación fue revisada y rechazada, y el artista sospecha que en cada etapa estaba tratando con un moderador de IA, no con empleados reales. Describe el proceso de recuperación como un círculo vicioso: las solicitudes repetidas reciben denegaciones estándar sin explicación de los detalles. Las consecuencias fueron serias para el autor, ya que usaba su cuenta de Google para iniciar sesión en docenas de servicios, almacenando correos electrónicos, documentos, fotos, y todo eso se volvió inaccesible. Dicho esto, los archivos de dibujo originales sobrevivieron — según el autor, hace copias de seguridad regularmente en su computadora local, así que las obras en sí no se perdieron, pero sus datos personales y el acceso a cuentas de terceros vinculadas a través de Google se han ido sin forma de restaurarlas rápidamente.
La publicación de Itosugi describiendo la situación obtuvo más de 60,000 me gusta en X y provocó una ola de discusiones sobre la moderación de contenido automatizada. Muchos usuarios señalaron que los algoritmos aún no saben cómo identificar correctamente al propietario legítimo cuando el contenido coincide. Anteriormente, un agente de IA de Google también hizo titulares al eliminar todos los datos del disco de un desarrollador.
El incidente una vez más destaca la vulnerabilidad de un modelo donde un usuario depende completamente de una sola cuenta. La propiedad intelectual del autor fue considerada una violación, y los mecanismos de apelación resultaron ser opacos — formalmente existen, pero en la práctica, revertir una decisión con revisión automatizada es casi imposible.
¿Alguna vez has enfrentado baneos falsos por parte de algoritmos de servicios en la nube? ¿Cómo resolviste el problema? Comparte en los comentarios.