Az EU betiltja a kockázatos mesterséges intelligencia rendszereket

Szerző: | febr 3, 2025 | Európa, Napi hírek, Technológia

A mesterséges intelligencia rendszerek hibás, téves, sőt, elfogult eredményekhez vezethetnek. A hibás és gyakran diszkriminatív arcfelismerő rendszerek már vezettek olyan emberek bebörtönzéséhez, akiket tévesen bűnözőként azonosítottak. A holland gyermekgondozási segélybotrány bebizonyította, hogy egy elfogult algoritmus ártatlan embereket is csalóként jelölhet meg, ami miatt sokan  pénzügyi csődbe kerülhetnek.

Az EU mesterséges intelligenciára vonatkozó szabálykönyve – a mesterséges intelligenciáról szóló törvény – az első olyan átfogó jogszabály, amely vörös vonalakat húzott meg bizonyos mesterséges intelligencia-gyakorlatokra vonatkozóan. Ez a törvény megtiltja az olyan mesterséges intelligencia-rendszereket, amelyek véleménye szerint elfogadhatatlan kockázatot jelentenek az emberek biztonságára, egészségére és alapvető jogaira nézve. Ez a védelem akkor is érvényesül, ha a rendszert az EU-n kívül működtetik, de az EU-n belüli használják. A tiltott mesterséges intelligencia gyakorlatokat a rendelet 5. cikke sorolja fel.

Az 5. cikkben említett mesterséges intelligenciával kapcsolatos gyakorlatok tilalmának megszegéséért 35 millió EUR-ig terjedő közigazgatási bírsággal vagy – vállalkozások esetében – a teljes éves árbevételük 7 %-áig terjedő közigazgatási bírsággal sújthatóak.

Mely mesterséges intelligencia gyakorlatok vannak (részben) betiltva

Amiket betiltottak

  • A manipulatív vagy megtévesztő technikákat alkalmazó mesterséges intelligencia rendszerek, amelyek megváltoztatják az emberek viselkedését, például a hangvezérelt játékok, amelyek veszélyes viselkedésre ösztönzik a gyermekeket.
  • az emberek vagy csoportok sebezhetőségét kihasználó mesterséges intelligencia rendszerek.
  • a szociális pontozás bizonyos formái, amelyek nem kapcsolódnak ahhoz a kontextushoz, amelyben az általuk felhasznált adatokat gyűjtötték.
  • olyan mesterséges intelligencia rendszerek, amelyek arcfelismerő adatbázisokat hoznak létre vagy bővítenek arcfelismerő adatbázisokat az internetről vagy a CCTV felvételekről származó arcképek céltalan lekérdezésével (mint például a Clearview AI vagy a PimEyes).
  • a rendőrség által nyilvános helyeken végzett élő arcfelismerés (kivételekkel)

Részben tiltott

  • a prediktív rendőri tevékenység, ha a mesterséges intelligenciával működő rendszerek személyiségjegyeik alapján kockázatértékelést készítenek az egyénekről, hogy megjósolják a bűncselekmény elkövetésének kockázatát. Nem tiltott: a „bűncselekményhez közvetlenül kapcsolódó objektív és ellenőrizhető tényeken” alapuló prediktív rendőri rendszerek alkalmazása.
  • olyan kategorizáló rendszerek, amelyek biometrikus adatok alapján próbálnak következtetni az emberek faji hovatartozására, politikai véleményére, szakszervezeti tagságára, vallási vagy filozófiai meggyőződésére, nemi életére vagy szexuális irányultságára. Ez a tilalom nem vonatkozik a bűnüldöző hatóságokra
  • olyan érzelemfelismerő rendszerek az oktatásban és a munkahelyen, amelyek biometrikus adatok, például arckifejezések alapján próbálnak következtetni az érzelmi állapotra (pl. fáradtság, negatív hozzáállás a munkához, stressz, düh vagy tiszteletlenség) és a jellemző tulajdonságokra (kivéve orvosi és biztonsági okokból).

Forrás: Algoritm Watch

Írta: Nikolett Aszódi