¡Hola de nuevo! Aquí Clara Soler, consultora de marketing y comunicación digital que a menudo compara las redes sociales con una gran plaza pública: un lugar para conversar, descubrir y entretenerse. Sin embargo, como todos sabemos, esa plaza también tiene rincones oscuros donde habitan los insultos y el odio, con consecuencias muy reales para quienes los sufren.
En la entrega 28 de «Inteligencia artificial para todos los públicos» (Hoy por Hoy Vall d’Albaida), abordamos este tema tan necesario e incómodo: ¿cómo podemos frenar el discurso de odio en internet? La respuesta, una vez más, nos la da la tecnología.
HODIO: El vigilante inteligente de nuestras redes
Como experta en inteligencia artificial, me apasiona descubrir herramientas que aporten un valor ético a la sociedad. En este episodio, exploramos HODIO, una herramienta impulsada por OBERAXE (el organismo del Gobierno de España encargado del racismo y la xenofobia).
¿Cómo funciona este sistema? HODIO utiliza la IA para «escuchar» y analizar millones de publicaciones diarias, en busca de contenidos racistas, xenófobos o discriminatorios antes de que el daño pase de la pantalla a la vida real.
El factor humano: algoritmos y personas trabajando juntos
Como suelo explicar en mis clases, la tecnología no debe actuar sola y, en el caso de HODIO, el proceso es híbrido:
- Detección algorítmica: la IA identifica patrones de odio a gran escala.
- Validación humana: detrás de la máquina hay personas que revisan y deciden si ese contenido infringe normas o, incluso, si constituye un delito.
Cuando se confirma la gravedad, se solicita la retirada del contenido o, en los casos más extremos, se pone en manos de la policía o la justicia.
Desafíos legales y éticos con expertos
Para profundizar en este tema, contamos con Jorge de los Reyes, abogado y consultor en negocios digitales. Con él analizamos los límites de la libertad de expresión y los retos legales que supone utilizar la IA para monitorizar lo que decimos en la red. Como consultora de marketing y comunicación digital, considero fundamental entender estos límites para gestionar marcas de forma responsable y segura.
Conclusión: IA, educación y sentido común
La inteligencia artificial es una aliada increíble para hacer de internet un lugar más habitable, pero tiene sus límites. Como siempre recalco en mis formaciones, la tecnología puede ayudarnos a filtrar el ruido, pero la educación y el sentido común siguen siendo herramientas insustituibles para combatir la toxicidad.
Escucha el audio completo 🎙️ en valenciano si te preocupa la seguridad en las redes o quieres saber cómo se están utilizando estas herramientas para protegernos
