La Inteligencia Artificial es la próxima gran revolución y una fuente de temores y amenazas en dosis iguales. Dentro de esta última categoría se ubica el Slop, un concepto que adquiere cada vez mayor relevancia y puede generar mucho daño en los usuarios.
Inteligencia Artificial: qué es el Slop
El Slop (siglas en inglés de aprendizaje y optimización estructurado) está asociado a la imprecisión o ruido en los datos y procesos de aprendizaje de un modelo de IA, según indica a iProUP explica David Pérez, services Manager de Security Advisor.
Esto puede generarse a partir de datos mal etiquetados, errores en su recopilación o fluctuaciones aleatorias sin patrones reales. Como ejemplo, Pérez señala que el caso "una información faltante o incorrecta en una historia clínica, que puede derivar en una predicción errada en un modelo de diagnóstico".
María Isabel Manjarrez, analista de seguridad de Kaspersky, señala a iProUP que Slop es el término que se usa para referirse al contenido basura generado por la IA generativa.
La experta revela que "el término también suele ser traducido como bazofIA y tiene como finalidad monetizar de alguna forma, generando visitas a un sitio web o a un perfil en redes sociales a través de la publicidad".
"No es un material interactivo, no se interesa por su calidad ni pretende responder a las necesidades de los usuarios. Su único propósito es aparentar ser contenido humano para captar tráfico y generar ingresos publicitarios", explica Manjarrez, quien ejemplifica:
- Libro electrónico sobre hongos publicado en Amazon que contiene recomendaciones potencialmente mortales
- Google sugiriendo que se puede agregar ingredientes tóxicos a un platillo que puede parecerse a la receta que se está buscando
- Imágenes carentes de sentido en redes sociales, como niños en autos hechos de botellas de plástico; casas de ensueño falsas y mujeres increíblemente ancianas que dicen tener 122
/https://assets.iproup.com/assets/public/images/lazyload.gif)
La inteligencia artificial obliga a dudar de todo lo que hay en internet
Fredi Vivas, ingeniero, profesor de IA y CEO de RockingData, define al Slop como el contenido que no suma nada y nadie quiere recibir, igual que el spam, pero creado con inteligencia artificial generativa.
Según el experto, "pronto se empezará a hablar mucho más de esto: una Internet plagada de bots o usuarios ficticios, intentando convencerte de algo":
"Es preocupante, porque vamos a tener IA generando textos que a su vez será la base de otros nuevos generados por otra IA. Algo así como un envenenamiento de la calidad del contenido", alerta Vivas.
A su vez, remarca, esto generará que los algoritmos de búsqueda no entiendan qué está pasando y sea cada vez más difícil encontrar buen contenido entre tanta basura.
Inteligencia artificial: ¿cuánto daño puede hacer el Slop?
Lo más peligroso del Slop es que la ausencia de supervisión humana lo convierte en una arma poderosísima de manipulación.
"Esto afecta a los usuarios que no solo reciben una gran cantidad de contenido que no quieren consumir antes de llegar a la información necesaria, sino que mucha por la que deben pasar puede no ser necesariamente verdadera, de buena calidad o incluso dañina para la salud", subraya Manjarrez.
El Slop es el contenido basura, muchas veces peligroso, que se crea con IA
El fenómeno se relaciona con el concepto de infodemia, que se refiere a la rápida difusión y amplio alcance de la información, tanto falsa como verdadera, sobre un tema determinado, agrega Manjarrez.
Según Pérez, el Slop, además de generar recomendaciones incorrectas y diagnósticos médicos erróneos, puede generar problema de seguridad y privacidad.
Por ejemplo, un sistema de reconocimiento facial puede registrar altos porcentajes de falsos positivos o negativos debido a datos imprecisos, permitiendo el acceso a personas no autorizadas o negándoselo a las que sí lo están. O asistentes virtuales y chatbots que pueden proporcionar respuestas incorrectas o no comprenden las solicitudes de los usuarios.
"El Slop es totalmente dañino para los usuarios. Esto va a ser un problema que tendrán que atacar las grandes plataformas digitales como Google, Microsoft y OpenAI. Deberán buscar la manera de minimizar ese impacto", anticipa Vivas.
Una forma es lograr que el contenido generado artificialmente sea más detectable para los usuarios, tal como ya lo hacen plataformas como Instagram, que ponen una etiqueta que advierte sobre el contenido generado por IA.
Slop: cómo estar prevenidos
Vivas recomienda: "No podés confiar en lo que ves, en lo que leés, ni en lo que escuchás. Más allá de que se trate de un texto real o artificial, hay que dudar. Eso nos obliga a estar mucho más despiertos como usuarios de Internet".
El Slop puede asimilarse al spam: contenido indeseado que aparece en redes y resultados de búsqueda, entre otros lugares
"Es el mundo que se viene, en el que detectar lo real de lo irreal se vuelve cada vez más complejo. Habrá que recurrir a las fuentes y medios de comunicación de confianza, chequeando el contenido y garantizando la veracidad. Se vuelve cada vez más importante ese trabajo periodístico", asegura.
Para no ser embaucados por el Slop, Manjarrez recomienda siete claves:
- Verificar siempre la credibilidad de las fuentes de información y optar por las reconocidas y respetadas en su campo
- Corroborar los datos con múltiples fuentes confiables para asegurarse de su veracidad
- Recordar que el hecho de una página esté en el top en los resultados de búsqueda o sea patrocinada no significa que es confiable
- Revisar la coherencia en el contenido: el generado por IA puede ser inconsistente o carecer de profundidad
- Poner atención en la calidad y el detalle: el material basura suele ser superficial y repetitivo
- Ser consciente de que los algoritmos de búsqueda pueden priorizar información popular sobre la de calidad
- Mantenerse informado sobre desarrollos en IA para entender mejor cómo se genera el contenido
La IA traerá grandes beneficios a nuestra vida cotidiana, pero también volverá cada vez más difuso el límite entre lo verdadero y lo falso, por lo que para evitar ser engañados tendremos que tener una actitud más activa a la hora de consumir contenidos.
