Proteção e Segurança de Clientes - "Swarm Intelligence"

No início de 2019, diversos mercados do OLX foram inundados com anúncios fraudulentos. Nem a aprendizagem automática, nem a moderação, conseguiram realmente ajudar. Depois, a Equipa de Segurança do OLX teve uma ideia brilhante e combinou ambos os métodos.

Polónia, Abril de 2019. Já há alguns meses que existe uma guerra silenciosa a acontecer nas plataformas do OLX da Europa. Os burlões regularmente inundam os OLX da Polónia, Roménia, Ucrânia e Portugal, com anúncios de conteúdo explícito, que claramente infringem as regras do OLX. Esses anúncios atraem milhares de utilizadores, fornecem um portal para a fraude e danificam a reputação do OLX. A equipa de Proteção e Segurança de Clientes (CSS, ou Customer Safety & Security) está a combater os anúncios através da moderação e de rotinas de aprendizagem automática de máquina (“Machine Learning”), com acesso limitado, de momento.

Neste dia em abril, os burlões publicaram 200 anúncios na Polónia e desta vez esses anúncios tornaram-se virais. Meio milhão de utilizadores do OLX foram expostos aos anúncios - e isto apenas na Polónia. Parecia que a equipa CSS tinha perdido a batalha. “Foi nesse momento que ficou claro que precisávamos de uma nova estratégia”, diz um dos team leaders de CSS. “Este era um momento muito irritante e desconfortável para os nossos clientes, e para nós, e trabalhamos diariamente para evitar isto”.

Combinar Humanos e máquinas:

 A natureza explícita dos anúncios parece ser um ponto de ataque. Por este motivo a equipa de CSS tinha criado modelos de aprendizagem automática (ML, ou machine learning) que fossem capazes de detetar imagens sensuais/explícitas. Esses modelos foram atualizados para detetarem links em imagens, com  a ajuda de inteligência artificial. “À medida que nos tornamos melhores na eliminação desses anúncios através da aprendizagem automática, os burlões tornaram-se melhores em evitar a deteção da nossa ML”, explica o team leader da CSS. Isto resultou num constante jogo de gato e rato, em que as soluções dadas pela aprendizagem automática não conseguem resolver completamente.

Os algoritmos não eram a única resposta, estes precisam de apoio humano e inteligência de enxame (SI, ou swarm intelligence). Num momento de inovação, a equipa CSS teve a ideia de combinar reportes altamente fidedignos de determinados utilizadores, os chamados moderadores da comunidade, com a última tecnologia. Confiando no conhecimento e capacidade de reação destes utilizadores que são bastante ativos, e ensinando os algoritmos sobre a importância de resposta humana, eles conseguiam finalmente identificar anúncios abusivos em alguns minutos.

 “Hoje, identificamos e removemos conteúdo nocivo em menos de 11 minutos”, diz o team leader responsável da CSS. “Graças à colaboração fiável entre os nossos utilizadores, conseguimos reduzir a exposição a estes anúncios em até 98% e estamos a manter as plataformas na UE seguras de conteúdo inapropriado.”

 O que fazer quando encontrar anúncios de fraude

• Reporte os anúncios, clicando em “Reportar anúncio” * na barra lateral, à direita.
• Não abra links que estejam no anúncio.
• Não partilhe os seus dados pessoais com o anunciante, ou nos websites que constam no anúncio.

* Caso precise de ajuda para reportar anúncios no OLX, consulte o seguinte link da nossa secção de Ajuda - https://help.olx.pt/hc/pt/articles/360002786078