Los integrantes del Parlamento Europeo (PE) valoran el potencial innovador de las decisiones automatizadas y los nuevos servicios que posibilitan, como los asistentes virtuales y los chatbots (robots para gestionar conversaciones).
Por ello, la Cámara aprobó una resolución sobre los desafíos derivados del rápido desarrollo de la inteligencia artificial (IA)y la toma automatizada de decisiones, con especial énfasis en la protección de los consumidores.
No obstante, subrayan que, al interactuar con estos sistemas, los consumidores deben recibir información sobre su funcionamiento, la posibilidad de contactar con una persona con poder de decisión y sobre todo cómo verificar y corregir las decisiones del sistema.
Esos sistemas sólo deben utilizar conjuntos de datos no sesgados y de calidad, así como algoritmos explicables e imparciales, dice la resolución. Tienen que contar, además, con estructuras de revisión para remediar posibles errores en las decisiones automatizadas y los consumidores han de disponer de mecanismos para solicitar la revisión y rectificación humanas de aquellas decisiones automatizadas que sean definitivas y permanentes.
«Las personas deben ser las responsables en última instancia y poder revocar las decisiones tomadas en el contexto de servicios profesionales como los de carácter médico, jurídico o contable, así como en el sector bancario», recalcaron los eurodiputados.
El Parlamento reclama un plan de evaluación de los riesgos asociados a la IA y la toma automatizada de decisiones y un enfoque común en la Unión Europea (UE) para aprovechar los beneficios de esos procesos y mitigar los riesgos.
Ajustar las normas de seguridad y responsabilidad a las nuevas tecnologías
Los eurodiputados piden a la Comisión que presente propuestas para adaptar las normas comunitarias sobre seguridad de los productos (por ejemplo, las directivas sobre la seguridad de maquinaria y juguetes) y garantizar que los consumidores estén adecuadamente informados sobre cómo utilizar esos productos y protegerlos contra posibles daños, al tiempo que se clarifican las obligaciones de los fabricantes.
La directiva sobre responsabilidad en caso de productos defectuosos, adoptada hace más de 30 años, también necesita ser revisada, en particular la definición de «producto», «daños» y «defectos», así como las normas en materia de carga de la prueba, agrega la resolución.
Precios diferenciados y discriminación
Según la legislación de la UE los comerciantes deben informar a los consumidores cuando el precio de los bienes o servicios se ha personalizado sobre la base de una decisión automatizada y el perfil del comportamiento de los consumidores, recuerdan los diputados, que instan a la Comisión a vigilar la aplicación de esa norma.
La UE también debe garantizar que las decisiones automatizadas no sirven para discriminar a los consumidores en función de su nacionalidad, lugar de residencia o ubicación temporal.
Próximos pasos
La resolución, aprobada a mano alzada, se transmitirá al Consejo de la UE (Estados miembros) y a la Comisión, para que tengan en cuanta el punto de vista de los diputados en lo relativo a la inteligencia artificial y la toma automatizada de decisiones.
Foto: Archivo (Ilustrativa)