Între utilizările inteligenţei artificiale interzise de către Comisia Europeană se numără supravegherea în masă, recunoaşterea emoţiilor şi clasificarea socială.
Comisia Europeană motivează interzicerea celor opt sisteme ale IA în Uniunea Europeană, prin faptul că sunt prea periculoase, în cadrul legislaţiei europene de pionierat adoptate anul trecut, relatează AFP, citată de news.ro.
ANOFM va implementa un proiect cu finanţare europeană, primul de acest fel al unei instituții publice din România
Este vorba despre următoarele sisteme ale IA:
- Identificarea în timp real a persoanelor cu camera în locuri publice. UE interzice folosirea camerelor echipate cu tehnologii de recunoaştere facială în timp real pe o stradă comercială în vederea identificării unor persoane căutate, deoarece se doreşte să se evite o intervenţie imediată împotriva unei persoane, fără o verificare prealabilă a altor informaţii provenind din lumea reală. Derogări sunt însă prevăzute în anumite misiuni ale forţelor de ordine, cum ar fi în lupta împotriva terorismului.
- Clasificarea socială în baza datelor personale fără legătură cu riscul evaluat. Un organism nu poate să recurgă la o aplicaţie AI cu scopul de a clasifica persoane în funcţie de probabilitatea de a comite o fraudă a ajutoarelor sociale, folosind date personale care nu au nimic de a face cu contextual (originea, culoarea pielii sau comportamentul pe reţele de socializare).
- Evaluarea riscului infracţional al unei persoane pe baza datelor biometrice. Poliţia nu poate folosi o AI pentru a prezice riscul comportamentului infracţional al unei persoane, fără să ia în calcul fapte obiective şi verificabile în mod direct legate de acţiunile acesteia.
- Crearea de baze de date cu feţe ale unor sisteme de recunoaştere facială luând imagini de pe internet. Sunt interzise instrumentele de ”periere” a Internetului şi extragerea unor fotografii ale feţelor fără discernământ cu scopul constituirii unor baze de date la scară mare de miliarde de imagini. Acest lucru ar însemna o supraveghere de stat.
- Recunoaşterea emoţiilor la locul de muncă sau instituţii de învăţământ. O organizaţie nu poate folosi webcam sau sisteme de recunoaştere vocală cu scopul de a detecta emoţiile angajaţilor săi.
- Manipularea comportamentului persoanelor cu ajutorul AI. Este interzisă integrarea în designul unei interfeţe a unor sisteme AI înşelătoare sau subliminale cu scopul de a-i împinge pe utilizatori să facă cumpărături.
- Exploatarea vulnerabilităţilor legate de vârstă sau dizabilităţi. O jucărie care încorporează AI şi care este concepută pentru ca să interacţioneze cu copiii este interzisă, dacă este concepută cu scopul de a le păstra atenţia şi de a-i încuraja la provocări riscante, care i-ar putea răni.
- Deducerea opiniilor politice sau orientări sexuale în funcţie de date biometrice. Un sistem care pretinde că poate ghici opiniile politice sau orientarea sexuală a persoanelor pe baza analizei feţei acestora nu va fi autorizat în UE.
