La inteligencia artificial generativa está transformando múltiples sectores, pero su uso conlleva riesgos importantes que debemos abordar con responsabilidad. En materia de protección de datos, uno de los principales problemas es que estos sistemas pueden generar información sensible o reproducir datos personales sin consentimiento, especialmente si han sido entrenados con contenido extraído de internet. Esto plantea serias dudas sobre el cumplimiento del Reglamento General de Protección de Datos (RGPD) y la capacidad de garantizar derechos como la privacidad o la rectificación.
Legalmente, la IA generativa desafía los marcos actuales: no está claro quién es responsable de los contenidos que produce, ni cómo se gestionan los derechos de autor o los posibles daños derivados de su uso. Además, la falta de transparencia en su funcionamiento dificulta la trazabilidad y la rendición de cuentas.
Desde una perspectiva ética, los modelos generativos pueden amplificar sesgos, difundir desinformación y afectar negativamente a profesiones creativas. También pueden ser utilizados para manipular emociones o decisiones sin que el usuario lo perciba.
Por todo ello, es urgente fomentar un uso ético, legal y transparente de la IA generativa, con marcos normativos claros, participación multidisciplinar en su desarrollo y una ciudadanía informada y crítica.
Responsables: Oier Mentxaka Gómez
