A menudo hablamos de la inteligencia artificial como una herramienta mágica para la productividad o la creatividad, pero llega un punto en que debemos dejar de mirar los botones para fijarnos en las leyes, la ética y nuestros derechos.
En el episodio 36 de «Inteligencia artificial para todos los públicos», analizamos un momento histórico: cuando la sociedad decide que la IA no puede avanzar sin control. Como experta en inteligencia artificial, creo que entender estas reglas es vital para cualquier profesional o empresa que quiera innovar con sentido común.
Dos visiones, un mismo mensaje: la IA al servicio del ser humano
Esta semana han coincidido dos hitos que, aunque vienen de mundos distintos, dicen lo mismo: la tecnología debe servir a las personas y no al revés.
- El marco jurídico. El Gobierno de España ha aprobado el proyecto de ley para adaptar nuestra normativa al Reglament Europeu d’Intel·ligència Artificial, siendo pioneros en regular los usos más peligrosos de esta tecnología.
- El marco moral. El Papa León XIV ha publicado su primera encíclica dedicada íntegramente a la IA, un documento de más de 130 páginas que reflexiona sobre sus riesgos y su papel social.
¿Qué prohíbe la nueva legislación?
Como docente de inteligencia artificial, considero fundamental conocer qué líneas rojas no se pueden cruzar y la nueva normativa es muy clara respecto a los usos que se consideran inaceptables en una sociedad democrática:
- Manipulación subliminal: se prohíben los sistemas de IA diseñados para influir en nuestro comportamiento de forma invisible, ya sea en decisiones de compra, en el tiempo que pasamos en redes sociales o en nuestras emociones.
- Deepfakes sexuales: una regulación necesaria contra la creación de vídeos falsos que pueden destruir la reputación de una persona en minutos.
- Explotación de vulnerabilidades: la ley protege especialmente a menores, personas mayores o personas con discapacidad, prohibiendo que la IA se use para engañarlos o manipularlos.
- Scoring social y discriminación: no se permitirá clasificar a los ciudadanos según su raza, religión u orientación sexual, ni crear sistemas de «puntuación social» basados en el comportamiento.
El factor humano es insustituible
Explicando todo esto, una de las reflexiones más potentes que compartimos en este episodio es que la IA no es una herramienta neutral. Detrás de cada algoritmo hay intereses económicos y decisiones humanas. Por eso, como experta en inteligencia artificial, siempre recuerdo en mis formaciones que, aunque la tecnología sea más rápida, hay capacidades que siguen siendo exclusivamente nuestras:
- El pensamiento crítico.
- La creatividad genuina.
- La empatía y el criterio.
- La responsabilidad ética.
La gran pregunta del futuro no es qué puede hacer la máquina, sino quién la controla y bajo qué reglas opera. La regulación y la ética serán tan importantes como los propios avances tecnológicos en los próximos años.
Si quieres entender cómo nos protegen las nuevas leyes y qué papel juega la conciencia humana en este desarrollo tecnológico, no te pierdas el audio completo de este programa 🎙️ (en valenciano)
¿Crees que las leyes van lo suficientemente rápido para el avance de la tecnología?
