Un algoritmo no tiene la capacidad de detectar las sutiles diferencias del contexto en que se utilizan ciertos contenidos. Esto significa que un video de un atentado terrorista puede ser propaganda en algunos casos, pero en otros puede utilizarse para informar, como en noticias, o para combatir el reclutamiento de grupos terroristas en línea. Estas diferencias pueden ser tan delicadas como una frase dentro de la Declaración de Independencia de EE.UU. que, fuera de contexto, fue considerada como discurso de odio. Los errores de los algoritmos pueden deberse también a sesgos intrínsecos a su programación.
En la práctica, esta falta de contextualización no funciona tan bien, llevando a situaciones que rozan el absurdo.
El Curioso Caso de The Seed Company y sus Cebollas "Sexuales"
El caso más ridículo hasta ahora, y el mejor ejemplo de cómo los algoritmos pueden fallar, lo ha protagonizado The Seed Company, una empresa canadiense especializada en la venta de semillas, tierra y herramientas de jardinería. Esa fue la pregunta que más de uno se hizo al conocer la historia de esta empresa, cuyo anuncio de venta de vegetales fue considerado como inapropiado debido a su "contenido sexual" por el algoritmo de la plataforma y no se les permitió publicitarse.
La imagen en cuestión era de unas cebollas blancas. Aparentemente, la queja llegó de alguien que se sintió profundamente ofendido al ver la foto que habían elegido para darle publicidad a su marca de semillas de cebollas, lo que llevó a la censura algorítmica.
El Criterio Algorítmico: ¿Cebollas o Pechos?
Buscando una explicación a tal notificación sin demasiado sentido, un representante de la compañía confesó que el algoritmo no sabía distinguir las cebollas de otra cosa. El propio algoritmo, según su interpretación, identificó las cebollas como algo más. Redondas como unos pechos y con una ligera protuberancia, las imágenes fueron identificadas como un pezón por el sistema, lo que llevó a confundir una cebolla inocente con un objeto digno de la censura.
Jackson McLean, un representante de la citada empresa, explicó la posible lógica detrás de la prohibición: “Creo que las dos formas redondas de las cebollas podrían ser vistas como senos o algo relacionado a un desnudo”. Este comentario resalta la peculiar visión del algoritmo. Muchos comentarios han intentado darle un sentido a unas cebollas que no tienen, aparentemente, nada que ver con unos pechos. Incluso, algún usuario en redes sociales se atrevió a intentar darle un poco de luz a un tema complicado: “las dos formas redondas podrían malinterpretarse como senos. Debes tener una imaginación muy desarrollada para ver algo sexual ahí”.
Antecedentes y la Viralización del Caso
Este incidente no es aislado; el año pasado, la misma compañía prohibió el uso del emoji de la berenjena en algunas publicaciones por sus connotaciones sexuales, lo que demuestra una hipersensibilidad en los sistemas de detección. Ver algo sexual en las plantas es algo extraño, pero todo es posible en este mundo de las redes sociales tan complicado.
Por su parte, las cebollas tienen poco de sexual, son un ingrediente muy recurrente en nuestra cocina, deliciosas en salsas, guisos y un complemento ideal de casi cualquier plato de carne o pescado. A la espera de que alguien revise esta publicación, el anuncio fue retirado y las cebollas no han podido ver la luz.
La buena noticia es que el caso se hizo viral, después de que The Seed Company explicara la situación en su página, y medios como la BBC se hicieran eco. Su relato no tardó en viralizarse, curiosamente, en la misma red social que les negó la oportunidad de anunciarse.
IA en corto - Ep 4 - Sesgos algorítmicos
Implicaciones de la Censura Algorítmica
Este es un caso del que reírse, pero también es algo preocupante. Es complicado pensar que un ser humano confunda una cebolla con un pecho; solo una máquina podría cometer este error, aunque nunca se sabe. Las nuevas tecnologías son también las más peligrosas, ya que la aparente libertad de expresión desaparece por momentos con la llegada de elementos preocupantes como éstos, que censuran contenido basándose en interpretaciones algorítmicas con serias deficiencias contextuales.
tags: #meme #publicaciones #cebollas #facebook