Emmanuel Macron, president de França, té molts fronts oberts. Mentre els sindicats es mobilitzen per tot el país per denunciar la seva reforma de les pensions, per altra banda, els grups en defensa dels drets humans i part de l'oposició denuncia la seva nova proposta de llei de cara als Jocs Olímpics de París 2024. Què és el que té aquesta proposta de normativa que aixeca tanta polseguera? Macron pretén posar en marxa per primer cop càmeres de videovigilància equipades amb algoritmes d'intel·ligència artificial (IA), una pràctica que els experts temen que es generalitzi i acabi sent una retallada de drets i llibertats permanent.
El govern de Macron sosté que en un macroesdeveniment com seran els Jocs Olímpics, on es preveu que s'hi desplacin 13 milions de persones, cal incloure tota la tecnologia per garantir la seguretat. Concretament, segons publica El País, l'article 7 de la proposta recull: l'ús “a títol experimental” d'algorismes d'intel·ligència artificial per analitzar imatges de càmeres de vigilància i detectar moviments sospitosos o objectes abandonats. Amb aquests recursos de la IA, la policia rebria notificacions a temps real per actuar, segons els casos. Si s'aprova la llei, serà la primera vegada que s'autoritzi l'ús d'aquestes IA de forma legal a França per garantir l'espai públic.
Tot i que des de l'Executiu es repeteix que seria quelcom puntual i excepcional, les organitzacions de drets humans i part de l'oposició consideren que és un risc, ja que sovint les noves mesures de seguretat que s'imposen a un país de forma temporal s'acaben consolidant. En un informe recorda que països com el Brasil, la Xina, el Regne Unit i el Japó van aprofitar aquestes cites per ampliar els poders de les seves forces de seguretat.
Què tenen de perillosos els sistemes de videovigilància amb IA per als drets i les llibertats?
Darrerament, el discurs majoritari al voltant de la IA ha estat optimista i allunyat de l'impacte que pot tenir sobre certs drets i llibertats. Tanmateix, els darrers usos de la IA han mostrat que no és pas l'eina messiànica que es presenta, sinó que simplement és una eina més que pot ser mal emprada amb terribles conseqüències. Un dictamen francès sobre l'ús d'aquesta mena de tecnologia ja advertia: "ja no es filma simplement les persones, sinó que se les analitza de forma automatitzada, en temps real, per recopilar-ne determinada informació".
A més, cal tindre en compte que la IA no és cap mena de tecnologia etèria i objectiva basa en la freda lògica d'una computadora. Com qualsevol altre programa ha estat creat per una persona, la qual té els seus biaixos i prejudicis que aboca en el mateix. Així doncs, seria més fàcil elaborar perfils racials, per exemple. En altres paraules, seria més fàcil criminalitzar col·lectius basant-se en els prejudicis, però embolcallat amb la fredor d'un algoritme. També s'obre la porta a una societat supervigilada sota la bandera de la seguretat i es presenta la següent pregunta: que és per seguretat i que per control?
"Aquesta llei és un cavall de Troia en matèria de seguretat", ha denunciat Guy Benarroche, del grup ecologista. "Amb el pretext d'assegurar els Jocs Olímpics i Paralímpics, s'obre la capsa de Pandora", ha afegit Eliane Assassi, del grup comunista.