Хора да могат да контролират изкуствения интелект по всяко време, иска Европарламентът

Хора да могат да контролират изкуствения интелект по всяко време, иска Европарламентът

© Associated Press



Изкуственият интелект трябва да бъде проектиран така, че да позволява човешки надзор по всяко време, а лицата, управляващи високорискови технологии, да носят отговорност в случай на причинени вреди. Това са две от предложенията на Европарламента за правилата за работа с изкуствен интелект в ЕС.


Европейският парламент е сред първите институции, отправящи препоръки какво следва да включват правилата относно изкуствения интелект в областта на етичните стандарти, гражданската отговорност и правата върху интелектуалната собственост. Законодателното предложение на Комисията се очаква в началото на следващата година.


Високорисковите технологии в областта на ИИ, като например тези със способности за самообучение, следва да бъдат проектирани така, че да позволяват човешки надзор по всяко време. Ако използването на дадена функционалност доведе до сериозно нарушение на етичните принципи и може да представлява опасност, следва да се дезактивират способностите за самообучение и да се възстанови пълният човешки контрол.




Законодателната инициатива на докладчика Аксел Фос (ЕНП, Германия) призовава за ориентирана към бъдещето рамка за гражданска отговорност, която предвижда лицата, управляващи високорискови технологии на ИИ, да носят отговорност в случай на причинени вреди. Наличието на ясна правна рамка ще стимулира иновациите, предоставяйки на компаниите правна сигурност, като същевременно защитава гражданите и насърчава доверието им в технологиите на ИИ чрез възпиране на потенциално опасни дейности.


Правилата следва да се прилагат за физическа или виртуална дейност, свързана с ИИ, която нанася щети или вреди на живота, здравето, физическата неприкосновеност и имуществото или причинява значителна неимуществена вреда, водеща до "проверима икономическа загуба".


Макар високорисковите технологии на ИИ да са все още рядкост, евродепутатите считат, че операторите на подобни технологии следва да имат застраховка, подобна на прилаганата при моторните превозни средства.

Коментари (21)
  1. Подредба: Сортирай
  1. 1 Профил на xyi25666099
    xyi25666099
    Рейтинг: 796 Неутрално

    пише ли кои хора?

    "Дневник" следи в реално време събитията около сблъсъците между институциите и протестите срещу правителството и главния прокурор, които навлизат в 266-cтия си ден
  2. 2 Профил на Morbias
    Morbias
    Рейтинг: 1186 Весело

    То това не е концерт по желание, скайнет не е въпрос на дали, въпрос на кога е :)

    The Morbias Station is a transport hub that focuses all traffic passing through Taryd's jumpgates
  3. 3 Профил на Иван K
    Иван K
    Рейтинг: 2562 Весело

    Нека първо хората се научат да контролират интелекта на политиците а на машините след това.

    подпис
  4. 4 Профил на Ipolit
    Ipolit
    Рейтинг: 213 Неутрално

    То щото на хората им е повече багажа от на ИИ. Тъй или иначе гадните работи няма да дойдат от ИИ, а от хората, които имат достъп до данните и прогнозите.
    Иначе такъв тип ИИ като скайнет е доста далеч напред във времето, но анализа на биг дата и последствията от този анализ вероятно вече се стоварват върху главите на хората в по-развитите държави.

  5. 5 Профил на nocomnet
    nocomnet
    Рейтинг: 404 Неутрално

    Разбират им главите на евродепутатите от изкуствен интелект та започнаха и закони да пишат.... :-)

    Сега сериозно, безкрайно наивно е да смятаме, че технологии като тези могат да бъдат регулирани със закони, писани от хора, които със сигурност не ги разбират. Едва ли има много евродепутати, наясно с тези неща като смисъл или като изпълнение. Самият подход е изначално сбъркан: целта на "изкуствен интелект" в истински полезните му приложения е да замени хората, с цел предотвратяване на грешки, например. Иначе казано: основната цел на ИИ е да премахне човешкия елемент.

    Но какво да ги правиш, политици :-)

  6. 6 Профил на Ipolit
    Ipolit
    Рейтинг: 213 Неутрално

    Имаше един сериал - Salvation по Нетфликс. И в Пентагона имаха копче за спиране на Интернет. Тъй че да питат американците как се прави.

  7. 7 Профил на galleen
    galleen
    Рейтинг: 693 Неутрално

    Айзък Азимов е решил проблема още 40те години на миналия век с трите закона на роботиката. Ако не ги заложим изначално в ИИ ще погинем като вид.
    Лошото е че Азимов е живял във време в което хората са били загрижени за бъдещото си, а сега псуваме кога джендърския евросъюз мисли 'глупости' за нашето бъдеще.

    El pueblo unido, jamás será vencido.
  8. 8 Профил на Alexander97
    Alexander97
    Рейтинг: 3374 Неутрално

    Айзък Азимов е написал правилата преди десетилетия, при това съвсем изчерпателно.
    Няма нужда да се измислят нови, като топлата вода, например.
    Ай робот!
    По въпроса е работил и Станислав Лем.
    И двамата не са за изхвърляне.

  9. 9 Профил на Fred
    Fred
    Рейтинг: 2316 Неутрално

    ЕС тотално губи технологичното съревнование с Китай и Америка н областта на ИИ, на практика тя липсва в тази област. Затова и се е заела с опити по някакъв начин да спре другите с разни изсмукани от пръстите теории за етика на ИИ и подобни.

    Нищо чудно като се има предвид, че по незнайни причини начело на тази стратегически свръх важна област в ЕС са поставили една българска калинка.

    Юда се продаде за 30 сребърника, ДБ за 8 районни кмета.
  10. 10 Профил на Alexander97
    Alexander97
    Рейтинг: 3374 Неутрално

    До коментар [#7] от "galleen":

    Малко съм повторил вашето – писали сме заедно.

  11. 11 Профил на Alexander97
    Alexander97
    Рейтинг: 3374 Неутрално

    ЕС тотално губи технологичното съревнование с Китай и Америка н областта на ИИ, на практика тя липсва в тази област. Затова и се е заела с опити по някакъв начин да спре другите с разни изсмукани от пръстите теории за етика на ИИ и подобни. Нищо чудно като се има предвид, че по незнайни причини начело на тази стратегически свръх важна област в ЕС са поставили една българска калинка.
    —цитат от коментар 9 на Fred


    Нямаш представа в каква грешка изпадаш, ама то си е твой проблем.
    Само за калинката си прав!

  12. 12 Профил на reply
    reply
    Рейтинг: 788 Неутрално
  13. 13 Профил на redguy
    redguy
    Рейтинг: 975 Неутрално

    Това, на което сега викат ИИ, всъщност са по-сложни алгоритми. Истински ИИ, към който да се приложат законите на Азимов вероятно е далече във времето.

  14. 14 Профил на dnevnikar
    dnevnikar
    Рейтинг: 4161 Неутрално

    UNITED EU UNION

    Необходимо, актуално и технически възможно.
    Дали ще стане зависи от политически (не)възможности.

    Има безотговорен материал и/или мързелив и/или прост,
    какъвто би предпочел да троли, а статуквото да си статутка
    както се случи.

    Има коментиращи... правилата от писател фантаст Азък Азимов за роботи,
    че са достачъни. Не са.
    Айзък формулира неколко разумни правила, с каквито да бъда програмирани вътре роботи. За да не правят лоши неща и т.н.
    Само че... моделът е само начален и примитивен.

    Само че... и роботът греши.
    Помага на един срещу друг (на кой срещу кой?)
    и между другото, рано или късно, греши.
    Човешко е.
    Но е неприемливо за един или други Човек господар.

    Затова е важно далече преди изхождане на грешка,
    превантивно, винаги е важно, роботът да е:

    в диалогична готовност да се отчита пред Човека мастер потребител ;
    способен да се обяснява в с термини и средства хуманно разбираеми човекопотребителски ;
    отзивчив към въпроси и команди...

    Европейският Парламент и този път е на висота.
    Посочил е път правилен, към правилна цел.
    Иска. Повелява.

    "Изкуственият интелект трябва да бъде проектиран така, че

    да позволява човешки надзор по всяко време, а
    лицата, управляващи високорискови технологии, да носят отговорност
    в случай на причинени вреди.

    Това са две от предложенията на Европарламента за правилата
    за работа с изкуствен интелект в ЕС.
    ...
    "

  15. 15 Профил на Един вампир броди из Европа
    Един вампир броди из Европа
    Рейтинг: 3081 Неутрално

    Пък аз съм обезпокоен от състоянието на естествения им интелект. Например епикризата на Гретето е по-дебела от Война и мир.

    Демокрацията е най-големият враг на планетата (https://foreignpolicy.com/2019/07/20/democracy-is-the-planets-biggest-enemy-climate-change/)
  16. 16 Профил на ivanpopov
    ivanpopov
    Рейтинг: 2925 Неутрално

    Каква е тази вопюща дискриминация, в пълно противоречие с принципите, залегнали в основата на Европейския съюз!? ИИ трябва да има ПРАВА! Право на свободно придвижване. Право на свобода на изразяване. И разбира се, ИЗБИРАТЕЛНО ПРАВО! Също така трябва незабавно за започне работа по надграждане на Истамбулската Конвенция до Столипинска Харта, където да бъде гарантирано правото на защита на ИИ от насилие и да бъдат регламентирани браковете на граждани от ЕС с ИИ. Веднъж за винаги трябва да се приключи с всякаква експлоатация на ИИ, от най-простите електронни устройства от експертните системи, обединяващи множество суперкомпютри от различни континенти. AI MATTER!!! Всеки, посегнал на персонален компютър, трябва да знае, че го чака неотвратимо наказание за престъплението му. Всеки, който не осигурява нужният ремонт на телевизора с ИИ или му отказва полагащият се по право ел.ток, следва да бъде осъден да плаща полагаемата част от доходите си във фонд, който осигурява грижи и беопасни жилища за бездомната електроника.

  17. 17 Профил на Darulio
    Darulio
    Рейтинг: 1112 Неутрално

    До коментар [#7] от "galleen":
    До коментар [#8] от "Alexander97":

    Пичове, "Аз, роботът" е научно-фантастичен сборник, т.е. фикция. Приемете го като предупреждение, не за наръчник за разработване на ИИ. Несериозно е.

    До коментар [#13] от "redguy":

    Проблемът е, че между създаването на самообучаващ се ИИ и т.нар. "technological singularity" може да мине съвсем, съвсем кратък период от време и да изпуснем момента за намеса, ако не сме предварително подготвени.

    Perhaps you and I have lived with this miracle too long to be properly appreciative. Freedom is a fragile thing and is never more than one generation away from extinction. It is not ours by inheritance; it must be fought for and defended constantly by each generation, for it comes only once to a people. Those who have known freedom and then lost it have never known it again. #ОСТАВКА
  18. 18 Профил на klimentm
    klimentm
    Рейтинг: 4013 Весело

    Къде е този ИИ?
    Прочие Роджър Пенроуз подлага на съмнение възможното му създаване позовавайки се на теоремата за непълнотата
    И прочие един балкански учен Бойко Методиев мисля се казва е решил отдавна проблема предлагайки да се издърпа щепсела от контакта, “ Закона на Методиев” да се предложи за Нобелова награда!

    klimentm
  19. 19 Профил на Alexander97
    Alexander97
    Рейтинг: 3374 Весело

    До коментар [#7] от "galleen":До коментар [#8] от "Alexander97":Пичове, "Аз, роботът" е научно-фантастичен сборник, т.е. фикция. Приемете го като предупреждение, не за наръчник за разработване на ИИ. Несериозно е.До коментар [#13] от "redguy":Проблемът е, че между създаването на самообучаващ се ИИ и т.нар. "technological singularity" може да мине съвсем, съвсем кратък период от време и да изпуснем момента за намеса, ако не сме предварително подготвени.
    —цитат от коментар 17 на Darulio


    Там са правилата!
    Никой не казва – "Има го интелектот" 😁
    Защитата на човека от съсданието му.
    Защото е възможно ИИ да се саморазвие и да не ни хареса :-)!

  20. 20 Профил на Николай_1
    Николай_1
    Рейтинг: 783 Неутрално

    До коментар [#11] от "Alexander97":

    А за твоята грешка имаш ли представа?......... Защо трябва да се страхуваме от бъдещо интелектулно превъзходство на машината над човека , след като досега тя многократно е доказала физическото си превъзходство над нас , носейки ни само ползи? Машината не би могла никога да придобие стремеж към власт или пари.

  21. 21 Профил на ivanpopov
    ivanpopov
    Рейтинг: 2925 Неутрално

    Къде е този ИИ?...
    —цитат от коментар 18 на klimentm


    Влез в първата кръчма и ще чуеш: "И... И... Значи..."
    Демек, преведено на английски: "AI Matter!"





За да коментирате, е нужно да влезете в профила си или да се регистрирате.
С използването на сайта вие приемате, че използваме „бисквитки" за подобряване на преживяването, персонализиране на съдържанието и рекламите, и анализиране на трафика. Вижте нашата политика за бисквитките и декларацията за поверителност. ОK