L'assistant virtuel basé sur l'intelligence artificielle (ci-après IA ) créé par la mairie d'Alcorcón (ci-après Ada) est soumis à la législation de l'UE ( règlement UE 2024/1689 ) qui établit des normes harmonisées en matière d'IA.
Le règlement de l’UE sur l’IA, conformément aux valeurs de l’Union européenne, vise à promouvoir l’adoption d’une intelligence artificielle (IA) fiable et centrée sur l’humain. Conformément à cet objectif, la Mairie d'Alcorcón a créé son assistante virtuelle Ada.
Au sein des quatre niveaux de risque des systèmes d'IA définis dans le cadre réglementaire, Ada, en tant que simple assistant d'information ou « chatBot », est classée comme à risque limité. Dans ce cas il y a une obligation de transparence. Ainsi, afin que les citoyens puissent prendre une décision éclairée, il est expressément mentionné qu’ils interagissent avec une machine et que le texte généré par Ada est généré artificiellement. Les conversations avec Ada sont soumises à un examen humain.
Ada ne prend pas de décisions de manière autonome et n’a pas d’impact sur les droits fondamentaux des citoyens.
Ada ne traite pas de données personnelles sensibles et ne prend pas de décisions susceptibles d'affecter de manière significative les droits des personnes. Aucune donnée personnelle ne doit être partagée lors de l’interaction avec Ada.
Bien qu'Ada soit très fiable, la Mairie d'Alcorcón ne peut pas garantir l'exactitude de toutes ses réponses.
Ada peut être considérée comme une « bénévole » qui connaît très bien le fonctionnement de la Mairie et apporte son aide de manière désintéressée mais sans aucun engagement, laissant au citoyen la responsabilité de vérifier les informations fournies.