ЕС иска да забрани някои видове машинно разпознаване на хора

ЕС иска да забрани някои видове машинно разпознаване на хора

© Reuters



Европейската комисия предложи да се забрани използването на дистанционно биометрично разпознаване в реално време, като част от нова регулация за използването на изкуствения интелект (AI).


Според предложението, въпреки че системите за разпознаване в реално време вече са с висока точност, "е всъщност доста рисково, когато резултатът води до подозрения спрямо невинен човек. Дори 0,1% грешка е много, ако става въпрос за десетки хиляди хора".


От забраната обаче са изключени търсения на хора, които са заподозрени в извършването на 32 вида престъпления, сред които тероризъм, трафик на хора, расизъм и др., предвиждащи наказание затвор за повече от 3 години.




В същото време използването на биометрични данни за индивидуална идентификация като пръстови отпечатъци или проверка на самоличност ще се смятат за безвредни и използването им ще се насърчава.


В проекта за регулация за използването на изкуствения интелект Европейската комисия предлага класифициране на системите в четири групи, според степента на риска от функциите, целите и условията на използването.


Според нея се забраняват системи, които манипулират хората на подсъзнателно ниво и така нарушават правата им и създават рискове за безопасността им. Освен груповата идентификация на публични места, в тази група влизат още техники за социален ранкинг при наемане на работа, в образованието, здравеопазването или правоприлагането.


Във високорисковата група са включени системи, които могат да доведат до нарушаване безопасността на гражданите или на техните права. Тук са апликациите за оценяване на изпитни резултати, за надеждност на доказателства, за роботизирана хирургия, за управление на транспортни системи, за сортиране на професионални биографии при наемане на работа, за кредитни оценки и др.


ЕС иска да забрани някои видове машинно разпознаване на хора

© Reuters


За допускане на такива продукти на европейския пазар ще се изискват определени стандарти за качеството на данните, поддържане на записи, човешки надзор, киберзащита, предоставяне документация за използването им и информация на ползвателите. Доставчиците ще трябва да преминат през оценяване през националните власти на съответната държава преди да пуснат продукта си в експлоатация, се казва в проекта за ново европейско законодателство.


Чатботовете попадат в групата "ограничен риск" заедно с други системи, за които ще се изисква потребителите да имат ясна информация, че взаимодействат с машина.


Според Европейската комисия най-голямата група е на системи с изкуствен интелект, за които има минимален риск. За тях не се предвиждат допълнителни правни задължения, съобщи старшият вицепрезидент на Европейската комисия Маргрете Вестагер.


Правилата ще се прилагат както към публичните, така и към частни субекти, независимо дали са регистрирани в ЕС или се ползват от други части на света. Те ще ангажират както доставчиците, като разработчика на инструмент за пресяване на автобиографии и ползвателите на високорискови системи с AI като банка, закупила инструмента за пресяване на автобиографии, посочи Вестагер.

  • "Когато става въпрос за изкуствен интелект, доверието е задължително, а не пожелателно. С тези революционни правила ЕС застава начело на създаването на нови глобални норми, които да бъдат гаранция за това, че можем да се доверим на AI", заяви Вестагер.

Към проекта за регулация е добавен и план, който обяснава на страните членки как могат да насърчават инвестициите в AI и иновациите.


Част от 140-те млрд. евро за дигитализация в европейския план за възстановяване, са предназначени за развитие на системи с изкуствен интелект, напомни еврокомисарят за вътрешния пазар Тиери Бретон.


ЕС иска да забрани някои видове машинно разпознаване на хора

© Reuters


Предложенията ще бъдат внесени в Европейския парламент и в Съвета за приемане, след което ще се прилагат на пряко в ЕС, без да е необходимо да бъдат добавяни към националното законодателство.


"Смятаме, че това законодателство е спешно, защото е първо по рода си и би могло да стане ускорител на прогреса, така че се надяваме на бърз отговор от другите институции", каза Маргрете Вестагер.


Всичко, което трябва да знаете за:
С използването на сайта вие приемате, че използваме „бисквитки" за подобряване на преживяването, персонализиране на съдържанието и рекламите, и анализиране на трафика. Вижте нашата политика за бисквитките и декларацията за поверителност. ОK