
© Associated Press
Сръбският президент Александър Вучич
Обявеният от президента Александър Вучич план за въвеждане на превантивно правосъдие с изкуствен интелект в Сърбия може да е част от мерките за справяне с бавното правораздаване в страната, но думите му повдигат много въпроси, разказва Балканската мрежа за разследваща журналистика (BIRN).
Миналия месец Вучич заяви, че предстоят "нови, реални и важни промени" и това разтревожи активисти за дигиталните права. Нуждата от дебат става осезаема и заради започналото внедряване на изкуствен интелект по сръбските улици - в Белград през 2019 г. се появи изградена от китайска компания мрежа от камери.
Потенциалът на такива технологии в комбинация с други да разпознават хора, които вероятно отново ще нарушат закона, и на други системи, които например да засичат измами със социални помощи. Адвокатът Джордже Кривокапич, съосновател на SHARE, фондация за дигитални права в Белград, предупреждава, че тези системи имат огромен потенциал за дискриминация, особено на маргинализирани групи от населението.
Изкуственият интелект може да е от полза
Сърбия вече положи основите за използване на изкуствен интелект в публичния сектор. Първата стратегия бе от декември 2019 г., а планът за действие за осъществяването ѝ бе приет през юни миналата година. Той предвижда създаване на Съвет за изкуствен интелект през първото тримесечие на настоящата, но никъде не е описано как подобни технологии ще се използват в съдилищата.
Страната вече започна да автоматизира системата за съхранение на делата и институционалната комуникация в съдебната власт. Според адвоката Милена Васич от Комитета на адвокатите за човешки права няма как наказателното право да е изключение от тенденцията изкуственият интелект да навлиза във всички сфери на живота. Особено по-прости случаи - например хилядите дела срещу банки заради разходи за лихви по заеми - затрупват сръбското правосъдие, както и такива заради допуснати от институциите грешки. Подобен софтуер обаче се нуждае от регулация и разговор за евентуални злоупотреби или за изкуствено завишаване на броя на приключените дела.
Според Ана Тошкич Цветинович от неправителствената организация "Партньори за демократична промяна в Сърбия" може да се стигне до дискриминация на маргинализирани групи, да навреди на достъпа до правосъдие и на правото на справедлив процес, "особено ако изкуственият интелект замени съдиите".
Друг проблем според Васич е, че подобни системи биха могли да работят по-лесно в държави с прецедентно право, но дори там има притеснения, че се нарушават граждански права.
Липса на прозрачност и контрол
В области като паркирането например (в Белград) Сърбия вече прави стъпки към автоматизация. От август миналата година специална система с 20 коли с камери може да разпознава автомобили, които не са паркирали правилно, и глобите да се изпращат по пощата. Китайската мрежа от камери за наблюдение има потенциал да разпознава както лица, така и номера.
Проблемът е в почти несъстоялия се обществен дебат по темата, а от неправителствения сектор идват критики за непрозрачност на внедряването на подобни технологии. Личната неприкосновеност не е приоритет в проекти, които включват масовото обработване на лични данни, а регистрираните нарушения до момента са предимно от държавни институции, смята Тошкич Цветинович. Според нея не се задават и важни въпроси, като например кой управлява системите, каква защита имат те и какви злоупотреби са възможни. Според Кривокапич Сърбия не разполага с надзорни механизми за употребата на подобна технология.