Духът на бъдещите Коледи: как "СантаНет" може да унищожи света

Духът на бъдещите Коледи: как "СантаНет" може да унищожи света

© Associated Press



В близките десетилетия се очакват сериозни пробиви в развитието на "изкуствения общ интелект" (artificial general intelligence AGI), който ще има интелектуални възможности далеч над тези на хората.


AGI може да преобрази човешкия живот към по-добро, но неконтролираният AGI също може да доведе до катастрофи и до края на самото човечество. Просто като се стремят да постигнат зададените им цели, AGI могат да създават заплахи за човешкото здраве и благосъстояние или дори да решат да ни унищожат.


Като част от програма за изследване на рисковете от AGI група учени от University of the Sunshine Coast в Австралия решава да моделира какво може да случи, ако Дядо Коледа бъде заменен с AGI - "СантаНет" (SantaNet), който има за цел да достави подаръци по целия свят на послушните деца за една нощ.




Първият набор от рискове може да възникне, когато SantaNet се опитва да направи списък кои деца са били добри и кои са непослушни. Това може да се постигне чрез система за глобално тайно наблюдение, която следи поведението на децата през цялата година.


Осъзнавайки огромния мащаб на задачата, SantaNet може да реши да я посмали, като носи подаръци само на деца, които са били добри през цялата година. Преценката какво е "добро" въз основа на собствения етичен и морален компас на SantaNet може да създаде дискриминация, масово неравенство и нарушения на Хартата за правата на човека.


SantaNet може също да намали натоварването си, като стимулира децата да се държат лошо или просто повиши критериите за "добро дете", което ще донесе и значителни икономически спестявания.


В света има около 2 милиарда деца под 14 години. В опит да направи играчки за всички тях всяка година SantaNet може да създаде армия от ефективни работници с изкуствен интелект - което от своя страна ще увеличи масовата безработица сред елфите. В крайна сметка елфите може дори да станат излишни и пенсиите им вероятно няма да бъдат в рамките на SantaNet.


SantaNet може също да се сблъска с проблема на "максимизатора на кламери" - експеримент, предложен от оксфордския философ Ник Бострьом, в който AGI, предназначен да увеличи производството на кламери, може да превърне Земята в гигантска фабрика за кламери. SantaNet може да се опита да погълне всички земни ресурси, за да прави подаръци, а Земята може да се превърне в една гигантска работилница на Дядо Коледа.


Духът на бъдещите Коледи: как "СантаНет" може да унищожи света

© Pixabay.com


Ако SantaNet се придържа към традицията да подарява парчета въглища на непослушните деца, може да изгради огромни запаси чрез масово добиване на въглища, нанасяйки мащабни екологични щети в процеса.


Бъдни вечер, когато подаръците трябва да бъдат доставени, крие нов набор от рискове. Как може да реагира SantaNet, ако на дроновете му за доставка им бъде отказан достъп до въздушното пространство на дадена страна? Конфронтацията със суперинтелигентна система ще има само един резултат.


Недоброжелателните групи могат да проникнат в системите на SantaNet и да ги използват за тайно наблюдение или за започване на мащабни терористични атаки.


Среща с AGI, работещи по изменението на климата, продоволствената и водната сигурност, деградацията на океаните и т.н., може да доведе до конфликт, ако режимът на SantaNet застраши техните собствени цели. Като алтернатива, ако решат да работят заедно, те могат да осъзнаят, че целите им ще бъдат постигнати само чрез драстично намаляване на глобалното население или дори премахване на възрастните изобщо.


Може би най-очевидният риск от SantaNet е този, който ще бъде катастрофален за децата, но може би по-малко за повечето възрастни. Когато SantaNet научи истинското значение на Коледа, може да заключи, че настоящите празненства са несъвместими с първоначалната й цел. Ако това се случи, SantaNet може просто да отмени Коледа.


SantaNet може да звучи пресилено, но това е идея, която помага да се подчертаят рисковете от по-реалистичните AGI системи. Проектирани с добри намерения, такива системи все още биха могли да създадат огромни проблеми просто като се стремят да оптимизират начина, по който постигат тясно поставени цели и да събират ресурси в подкрепа на работата си, предупреждават учените.


Всичко, което трябва да знаете за:
Коментари (22)
  1. Подредба: Сортирай
  1. 1 Профил на Тsonkooo
    Тsonkooo
    Рейтинг: 3400 Неутрално

    Нет, нет, ама децата искат навън и на училище.

  2. 2 Профил на moreee
    moreee
    Рейтинг: 1577 Любопитно

    А SantaNet дали ще може да сменя пола на децата, които са си пожелали това за Коледа?

  3. 3 Профил на Тsonkooo
    Тsonkooo
    Рейтинг: 3400 Неутрално

    До коментар [#2] от "moreee":

    Ами с нета и пропагандата може и това да поискат.

  4. 4 Профил на Jordan J
    Jordan J
    Рейтинг: 316 Неутрално

    Дневник, поспрете малко да препечатвате простотии и глупости за "унищожението" на света.
    Или и вие сте вирусолясали и психясали?

  5. 5 Профил на CINZANO
    CINZANO
    Рейтинг: 693 Любопитно

    Що за дебилщина прочетох току що?

    Мома, връщай 12 и 12А!
  6. 6 Профил на 1984
    1984
    Рейтинг: 622 Неутрално

    кой е авторът на тази дебилщина

    BG e мини империя на злото.
  7. 7 Профил на abdulhazred
    abdulhazred
    Рейтинг: 570 Неутрално

    Що за дебилщина прочетох току що?
    —цитат от коментар 5 на CINZANO - оправете си сайта!


    група учени от University of the Sunshine Coast в Австралия са решили да усвоят някой лев и са се надявали никой да не прочете глупостите които са написали

  8. 8 Профил на Николай Колев
    Николай Колев
    Рейтинг: 2988 Весело

    Няма проблем. Само трябва да открием Джон Конър и да го спасим.

    * ПКП-Прекрасна Кърджалийска Принцеса. Политкоректна формулировка на думи на министър председателя за председателя на Народното събрание
  9. 9 Профил на Боян Таксиров
    Боян Таксиров
    Рейтинг: 1561 Неутрално

    Животът не може да се сведе до алгоритми, и затова всеки опит в подобна насока води до проблеми и евентуално катастрофи.

    mutricata.blogspot.bg deinstall.blogspot.bg
  10. 10 Профил на tie_interceptor
    tie_interceptor
    Рейтинг: 350 Неутрално

    До коментар [#9] от "Боян Таксиров":

    Всъщност, Вселената е един алгоритъм, само че на нас не ни е възможно да го разберем...

  11. 11 Профил на Боян Таксиров
    Боян Таксиров
    Рейтинг: 1561 Неутрално

    До коментар [#10] от "tie_interceptor":

    Кой ти каза, че Вселената е алгоритъм?

    mutricata.blogspot.bg deinstall.blogspot.bg
  12. 12 Профил на Vlado Nikolov
    Vlado Nikolov
    Рейтинг: 3537 Неутрално

    "СантаНет", "СкайНет", Терминатор поредна серия.

  13. 13 Профил на schwimmwagen
    schwimmwagen
    Рейтинг: 1510 Неутрално

    Diskpart/parted delete ***" и ще стане на СантаМат:)

    "...Thereafter the man-loving God who arranges everything, and who did not abandon man without an intellect, sent unto him Saint Constantine the Philosopher, called Cyril, a righteous and truth-loving man, and he created for them thirty-eight letters..."
  14. 14 Профил на lz73
    lz73
    Рейтинг: 1175 Неутрално

    До коментар [#11] от "Боян Таксиров":

    Лаплас...

  15. 15 Профил на deutschland
    deutschland
    Рейтинг: 717 Весело

    Всъщност, Вселената е един алгоритъм, само че на нас не ни е възможно да го разберем...
    —цитат от коментар 10 на tie_interceptor


    Ако прочетеш какво означава 'алгоритъм' ще забележиш че това е нещо много просто, обяснение по много сложен начин. След това може би ще забележиш - логически инструкции, това е нещо като да ти кажа, че има вирус, а после да се ваксинираш. Ти следваш логическа инструкция на доверие. Във вселената, когато две вещества се срещнат те също следват 'логическа инструкция', но те я следват по строго определен начин. След това отиваме на 'енергията', че тя се трансформира в материя и прочие. Накратко енергия=материя. Тоест ти си същата тази материя която се подчинява на строга логическа инструкция, но се намираш в такава форма, че си по Висша материя. Това е парадокс.
    Материя във вид която изпълнява строги логически инструкции, а после имаме същата материя придобила такава форма, че не се подчинява строго на логическа инструкция и прави 'каквото си иска', променя алгоритъма на заобикалящата го среда. По висшата материя въздейства на материята като я кара да се подчинява на собствените си закони, но владееш времето и пространството. Оттук вече идва идеята за бог и религиите. Всъщност ако Вселената е материя(каквато е), то Бог си ти, ти можеш да подчиниш 'материята' под друга форма да се подчинява на своите законите. Кой би бил бог във една Вселена? Този който може да подчини материята, макар че той също е материя, разликата както казах е времето и пространството 'подчинената материя' така или иначе ще извърши това действие, но ти определяш времето и пространството. По просто от това няма накъде. Не съществува изкуствен интелект който може да извърши това - той винаги ще следва строго логически функции. Той ще е най-бързия и всичко най-най-най ще е изкуствения интелект, но винаги и абсолютно винаги ще го прави по строг логически модел... и ако сложиш само една 0(нула) и той ще грипира.
    Няма нужда сега да ставаш набожен.

  16. 16 Профил на Димитър Димитров
    Димитър Димитров
    Рейтинг: 1174 Гневно
  17. 17 Профил на Активист
    Активист
    Рейтинг: 394 Весело

    Какво, по деволите, прочетох току-що?? :))))
    Кой не си е пил хапчиата? Бързо да казва! :))

  18. 18 Профил на tie_interceptor
    tie_interceptor
    Рейтинг: 350 Неутрално

    До коментар [#15] от "deutschland":

    Всъщност всичко, което знаем за Вселената е създаден от хората неин математически модел...

  19. 19 Профил на tie_interceptor
    tie_interceptor
    Рейтинг: 350 Весело

    До коментар [#11] от "Боян Таксиров":

    Те/Той/Тя/То!

  20. 20 Профил на gogo63
    gogo63
    Рейтинг: 961 Неутрално

    и са се надявали никой да не прочете глупостите които са написали
    —цитат от коментар 7 на abdulhazred


    Обаче пряпорецът на свободните медии в България не знае умора - чете, чете и препечатва (преписва) глупости от целия нет :) А и е интересно да се види, че преписват глупости и от други места, не само от веле-то.

  21. 21 Профил на Perkele
    Perkele
    Рейтинг: 48 Неутрално

    su -

    rm /usr/bin/santanet
    rm -rf /usr/lib64/santanet
    rm -rf /usr/share/santanet

  22. 22 Профил на blurred
    blurred
    Рейтинг: 470 Неутрално

    По-глупава статия не бях чел отдавна. Ще си я запазя като бенчмарк за тъпотия...

    Гешев е ПОЗОР. Оставка и ЗАТВОР!




За да коментирате, е нужно да влезете в профила си или да се регистрирате.
С използването на сайта вие приемате, че използваме „бисквитки" за подобряване на преживяването, персонализиране на съдържанието и рекламите, и анализиране на трафика. Вижте нашата политика за бисквитките и декларацията за поверителност. ОK