La app de citas Bumble presentó de forma oficial su más reciente función, Deception Detector, una nueva herramienta basada en inteligencia artificial (IA) que funciona como barrera de perfiles falsos, estafas y spams.
La compañía resaltó que su creción surgió como "consecuencia de su prioridad" que es, desde hace una década, "crear conexiones amables, seguras y auténticas".
"Este lanzamiento refleja el compromiso de Bumble con el uso responsable de la IA. La compañía se enorgullece de participar activamente en la Asociación sobre IA, colaborando con líderes de la industria para garantizar el desarrollo y la implementación éticos y responsables de la inteligencia artificial", destacaron desde la compañía en diálogo con iProUP.
En el Día del Internet Seguro, Bumble -conocida como la app de citas donde las mujeres dan el primer paso- presentó Deception Detector, que usa IA para ayudar a identificar spam, estafas y perfiles falsos, con el objetivo de tomar medidas incluso antes de que los miembros los vean.
En los dos primeros meses de la introducción de esta tecnología, Bumble observó cómo las denuncias de spam, estafas y cuentas falsas se reducían en un 45%.
Un estudio de Bumble Inc. mostró que, a nivel mundial, los encuestados mencionaron a los perfiles falsos y el riesgo de estafas, como sus principales preocupaciones a la hora de tener citas online. En ese contexto, casi la mitad de las mujeres encuestadas (46%) expresaron ansiedad por la autenticidad de sus matches en las aplicaciones de citas. Esta preocupación puede llevar a las personas a perderse conexiones significativas que podrían tener un impacto positivo en sus vidas.
/https://assets.iproup.com/assets/public/images/lazyload.gif)
Bumble es conocida como la app de citas en la que las mujeres dan el "primer paso"
Bumble lanza una herramienta basada en IA para combatir los perfiles falsos: así funciona Deception Detector
Lidiane Jones, CEO de Bumble Inc, explica que "en los últimos años, el panorama online ha evolucionado significativamente y vemos una creciente preocupación por la autenticidad".
Y añade: "Bumble Inc. se fundó con el objetivo de construir relaciones equitativas y empoderar a las mujeres para dar el primer paso, y Deception Detector es nuestra última innovación como parte del compromiso continuo con nuestra comunidad para ayudar a garantizar que las conexiones realizadas en nuestras apps sean genuinas".
Deception Detector presenta un modelo basado en machine learning, rápido y confiable, para evaluar la autenticidad de los perfiles y las conexiones en Bumble.
De las cuentas identificadas como spam/estafa, las pruebas realizadas por Bumble Inc. muestran que Deception Detector contribuyó en el bloqueo automático del 95% de ellas.
Esta tecnología automatizada y basada en IA se utiliza junto con soporte humano dedicado a priorizar una comunidad segura y empoderada.
"Con un enfoque en la experiencia en línea de las mujeres, reconocemos que en la era de la IA, la confianza es más importante que nunca. Estamos siendo muy cuidadosos sobre la mejor manera de utilizar los nuevos modelos para reducir la ansiedad de hacer conexiones y apoyar a nuestra comunidad, con la IA como principal área de foco", agrega Jones.
Deception Detector utiliza un modelo basado en machine learning
Deception Detector: la nueva joya de seguridad de Bumble
Este lanzamiento es la más reciente de las innovaciones de IA de Bumble en todos sus productos, y se suma al historial de la empresa en la lucha contra la misoginia, el acoso y la toxicidad en línea.
La compañía introdujo anteriormente otras capacidades de detección como:
- Private Detector, una función pionera en el sector que utiliza IA para detectar y difuminar imágenes de desnudos lascivos, y fue una de las primeras aplicaciones de citas en utilizar IA para la verificación de fotos.
- Best Bees, un algoritmo de IA que proporciona un mayor nivel de curaduría para los miembros
- Bumble For Friends, que cuenta con iniciadores de conversación impulsados por IA para proporcionar a los miembros un mensaje personalizado y significativo cuando se ponen en contacto con una nueva conexión.
Bumble también introdujo recientemente políticas para abordar el:
- bodyshaming,
- cyberflashing
- actualizó las Directrices de la Comunidad para prohibir cualquier intento de influir artificialmente en las conexiones, matches, conversaciones o interacción mediante el uso de automatización o secuencias de comandos
La empresa también es miembro fundador y la primera aplicación de citas en unir fuerzas con la Partnership on AI, para reforzarel enfoque de la empresa en la tecnología responsable.
La firma precisó que Deception Detector ya se desplegó en Bumble, Badoo y Bumble For Friends.
