Изкуственият интелект е опасно оръжие, предупредиха учени

Изкуственият интелект на "Гугъл" вече побеждава професионални играчи на го

© Associated Press

Изкуственият интелект на "Гугъл" вече побеждава професионални играчи на го



Бързото развитие на изкуствения интелект увеличава опасността той да бъде използван от застрашаващи световния мир държави, престъпници и терористи, предупреждава нов доклад, цитиран от агенциите "Ройтерс" и "Франс прес".


Проучването бе публикувано днес от 26 експерти в областта на изкуствения интелект, киберсигурността и роботиката от университетите "Кеймбридж", "Оксфорд", "Йейл" и неправителствени организации. Те призовават правителствата и всички заинтересовани страни да ограничат потенциалните заплахи, свързани с изкуствения интелект.


Изследователите казват, че злонамерената употреба на изкуствен интелект създава непосредствени заплахи за цифровата, физическата и политическата сигурност, защото позволява широкомащабни, прецизно насочени и високоефективни атаки. Проучването се фокусира върху сценарии, които е възможно да станат реалност в следващите пет години.




Те подчертават, че терористи могат да извършват кибератаки, с които да предизвикат катастрофи на автономни коли или да превръщат широкоразпространените в търговската мрежа дронове в оръжия.


"Всички сме съгласни, че има много позитивни приложения на изкуствения интелект", казва Майлс Брундейдж, изследовател в "Оксфорд". "Но има недостиг на литература по въпроса за злонамерената му употреба."


Докладът сочи, че атаките могат да станат по-евтини, тъй като изкуственият интелект може да извършва задачи, които иначе изискват труда и опита на хората. Възможно е и да се появят нови типове нападения, които хората не могат да извършат сами или които се възползват от уязвимостта на самите системи за изкуствен интелект. Той вече може и да генерира изкуствени изображения, текст и звук, като така се представя за хора онлайн – а това дава възможност за промяна на общественото мнение.


"Накрая имахме повече въпроси, отколкото отговори", отбелязва Брундейдж.

Ключови думи към статията:

Коментари (44)
  1. Подредба: Сортирай
  1. 1 Профил на Voiko
    Voiko
    Рейтинг: 2974 Неутрално

    Разбира се, че е така, защото може да бъдат създадени роботи-войници.

  2. 2 Профил на pm
    pm
    Рейтинг: 564 Неутрално

    Дамм, дай изкуствен интелект на едно от кучетата на Бостън Дайнамикс и гледай какво ще стане :)

    "Лошото е, че [българите] оставиха истинските си политици вън от властта, вкарвайки в парламента само олигархичните корпорации."
  3. 3 Профил на ijj
    ijj
    Рейтинг: 1059 Неутрално

    "Изследователите казват, че злонамерената употреба на изкуствен интелект създава непосредствени заплахи за цифровата, физическата и политическата сигурност, защото позволява широкомащабни, прецизно насочени и високоефективни атаки."

    Щом има такава възможност, значи наистина положението е опасно. При съвременното състояние на човешкото съзнание подобни потенциални опасности обикновено се реализират. Например компютърните вируси - каквито и да са мотивите за създаването им, явно е, че целенасочено са направени за да навредят. Като че ли съвременните технически възможности заварват човечеството неподготвено в морално-етично отношение.

    Може би все пак разликата в случая е, че за разлика от компютърните вируси създаването на изкуствен интелект е (засега) по силите на много малко страни в света. Така като че ли по-лесно могат да се вземат някакви предпазни мерки.

  4. 4 Профил на dnevnikar
    dnevnikar
    Рейтинг: 3950 Разстроено

    UNITED ИИ UNION

    Така си е.

    Свръхцентрализация - кофти.
    Свръхдецентрализация - кофти.

    Опасно "оружие труда".
    Хармоничността - кога?...

  5. 5 Профил на BiGman1
    BiGman1
    Рейтинг: 3845 Неутрално

    До коментар [#1] от "voyko":


    Разбира се, че е така, защото може да бъдат създадени роботи-войници.
    —цитат от коментар 1 на voyko


    Споко...докато е жив Арнолд Шварценегер няма страшно...ще ги терминира...:)
    Майтапа настрана, ако не приемат строги правила ИИ е заплаха от всякъде...

  6. 6 Профил на tam17540965
    tam17540965
    Рейтинг: 672 Весело

    Нема страшно. Арни Терминатора нали е с нас.

  7. 7 Профил на eti mehter
    eti mehter
    Рейтинг: 3878 Неутрално

    Започне ли ерата на изкуствения интелект , ще настъпи края на естествения !

    Bukalemun
  8. 8 Профил на redguy
    redguy
    Рейтинг: 1066 Неутрално

    Започне ли ерата на изкуствения интелект , ще настъпи края на естествения !
    —цитат от коментар 7 на eti mehter


    Дано поне изкуственият интелект е по-далновиден и разумен от нашия, че ни се оср@хме на тази планета.

  9. 9 Профил на usero
    usero
    Рейтинг: 1875 Неутрално

    Ураганите също са опасни! Температурите под минус 50 също! Температурите над плюс 50 също!

  10. 10 Профил на Jesuit
    Jesuit
    Рейтинг: 437 Неутрално

    И на мен ми се струва опасно

  11. 11 Профил на mara71
    mara71
    Рейтинг: 1020 Неутрално

    Роботът Цвъ е живо доказателство.

  12. 12 Профил на john_3volta
    john_3volta
    Рейтинг: 663 Неутрално

    За разлика от естествения интелект, който е един такъв безопасен ...

  13. 13 Профил на half truth
    half truth
    Рейтинг: 1797 Неутрално

    Започне ли ерата на изкуствения интелект , ще настъпи края на естествения !
    —цитат от коментар 7 на eti mehter


    Всичко което има начало си има и край. Така както родителите отстъпват света на децата си и си заминават, някой ден може хората да го отстъпят. Кое му е неестественото?

  14. 14 Профил на mr_vach
    mr_vach
    Рейтинг: 477 Неутрално

    Миналата година, група учени изпратиха писмо до ООН с което се иска забраната на оръжия управлявани от ИИ, подобно на забраната на химическите оръжия

    https://spectrum.ieee.org/automaton/robotics/military-robots/industry-urges-united-nations-to-ban-lethal-autonomous-weapons-in-new-open-letter

    На същия сайт
    https://spectrum.ieee.org/
    (нещо като списанието на организацията IEEE)
    има няколко статии-мнения статии както на учени които подкрепят писмото, така и на лобисти на оръжейните фирми, които разработват точно такива оръжия

    Ако Ви е интересна темата, можете да прочетете интересни анализи и аргументи ЗА и ПРОТИВ забраната на автономните оръжия

    Порусначен народ- слаба държава
  15. 15 Профил на wsxdre
    wsxdre
    Рейтинг: 470 Неутрално

    гутен морген ..баси учените!
    едва ли трябва повече от 8ми клас за да достигнеш до подобни изводи

  16. 16 Профил на Petak
    Petak
    Рейтинг: 561 Неутрално

    "Опасен" за кого? Може би за хората, защого в един момент може съвсем обективно и рационално да реши, че вредите от нас са повече от ползите и метозично да изчисти Планетата от тия паразит хората :-))

  17. 17 Профил на Xumpomo name
    Xumpomo name
    Рейтинг: 672 Неутрално

    терористите не се интерсуват от прецизни атаки, на тях им дай автомати и бомби с пирони..

    Birds of a feather flock together.
  18. 18 Профил на Консерватор
    Консерватор
    Рейтинг: 512 Неутрално

    До коментар [#7] от "eti mehter":

    !!!

    Да оцелем ни предричат/и в бъдещето-чудеса!/Но тез,след нас,ще са различни,/пак "българи" ще се наричат,/но българи дали ще са? РОДОТСТЪПНИЧЕСТВОТО Е ПЪРВОТО УБЕЖИЩЕ НА НЕГОДНИКА.
  19. 19
    ****

    Коментарът беше изтрит по желание на неговия автор.

  20. 20 Профил на Консерватор
    Консерватор
    Рейтинг: 512 Неутрално

    До коментар [#13] от "half truth":

    "Кое ми е неестественото?"
    Ами колективното самоубийство на човеците...

    =====

    Впрочем преди много години в сп. "Космос" - единственото научно-популярно списание по време на соца - имаше теория (не помня от кого), че еволюцията се развива така:

    нежива и немислеща материя => жива и немислеща => жива, мислеща => нежива и мислеща материя.

    Такова едно развитие означавало безсмъртие на интелекта.

    Да оцелем ни предричат/и в бъдещето-чудеса!/Но тез,след нас,ще са различни,/пак "българи" ще се наричат,/но българи дали ще са? РОДОТСТЪПНИЧЕСТВОТО Е ПЪРВОТО УБЕЖИЩЕ НА НЕГОДНИКА.
  21. 21 Профил на eti mehter
    eti mehter
    Рейтинг: 3878 Неутрално

    До коментар [#8] от "redguy":

    Дано поне изкуственият интелект е по-далновиден и разумен от нашия
    ========
    Навярно ще е така.......
    Но дали това ще е в полза на човека .....тук вече е спорно. ...
    Хората са грешници по природа , но новия интелект ще е безпощаден

    Bukalemun
  22. 22 Профил на Николай Теллалов
    Николай Теллалов
    Рейтинг: 450 Неутрално

    Глупости!
    ИИ все още няма, а когато проима, това ще е ЛИЧНОСТ, защото без личност не съществува интелект. Същински ИИ. И силно се съмнявам, че някой би бил способен "да го употреби".
    И тогава ще стане интересно, почти апокалиптично.
    Само дето апокалипсисът по-вероятно да сполети не човечеството, а социопатичното сегашно обществено устройство.

    властта ражда паразити
  23. 23 Профил на Николай Теллалов
    Николай Теллалов
    Рейтинг: 450 Неутрално

    Станислав Лем - Военните системи на ХХI век - бойните роботи НЯМАТ НУЖДА от изкуствен интелект, а от изкуствена идиотия, за да изпълняват кретенски заповеди, без да се усъмнят в тях

    До коментар [#1] от "voyko":

    властта ражда паразити
  24. 24 Профил на half truth
    half truth
    Рейтинг: 1797 Неутрално

    До коментар [#20] от "Консерватор":

    Това за мислещата материя ми стана интересно. Какво е мислеща материя?

    От гледна точка на физиката материята може да се превръща в енегия и обратно. Практически, засега, ние можем да превръщаме материята в енергия, а обратното не. Например, можем да изгорим въглища и да получим топлина , но от топлината не можем да получим въглища.
    Когато започнем да се превръщаме двупосочно:

    човек =>енергия=> човек ще се слееме с изкуствения интелект.

  25. 25 Профил на Николай Теллалов
    Николай Теллалов
    Рейтинг: 450 Неутрално

    До коментар [#21] от "eti mehter":

    Я престани с тия религиозни глупости

    властта ражда паразити
  26. 26 Профил на Николай Теллалов
    Николай Теллалов
    Рейтинг: 450 Неутрално

    До коментар [#24] от "half truth":

    Ох леле...
    МАСАТА има енергийна стойност, изразена чрез формулата на Айнщайн.
    Енергията не е някаква субстанция, та нещо да се превръща в нея.
    А пък МАТЕРИЯ е и вещество и поле и лъчение.

    Много смътни спомени имате от физиката!

    властта ражда паразити
  27. 27 Профил на eti mehter
    eti mehter
    Рейтинг: 3878 Неутрално

    До коментар [#22] от "Николай Теллалов":

    Глупости!
    ИИ все още няма,
    ========
    ИИ има близо от 10 гонини , но не е внедрен повсеместно ....
    Запиши си го някъде , теляк !

    Bukalemun
  28. 28 Профил на dante_18
    dante_18
    Рейтинг: 779 Неутрално

    А най-опасното нещо е липсата на интелект.

    If you are going through hell... Keep going!
  29. 29 Профил на half truth
    half truth
    Рейтинг: 1797 Неутрално

    Дано поне изкуственият интелект е по-далновиден и разумен от нашия, че ни се оср@хме на тази планета.
    —цитат от коментар 8 на redguy


    В момента проблема е дали няма да ни изостави и да се саморазвива отделно.
    Фейсбук пусна два chat-bot (изкуствени събеседници). Почти веднага ги свали. Защото започнали да си четят помежду си и много бързо се отдалечили от оригиналния език.

  30. 30 Профил на half truth
    half truth
    Рейтинг: 1797 Неутрално

    МАСАТА има енергийна стойност,
    —цитат от коментар 26 на Николай Теллалов


    Има.

  31. 31 Профил на eti mehter
    eti mehter
    Рейтинг: 3878 Неутрално

    До коментар [#30] от "half truth":

    Има , но само математически .....теоретично !
    Явно в нашите три измерения няма да се получи нещо на практика ....

    Bukalemun
  32. 32 Профил на Иво
    Иво
    Рейтинг: 235 Неутрално

    Това, че е опасен и няяяякой ден ще ни превземе се знае отдавна. Но е сфера, която се развива и ще продължава да се развива.

  33. 33 Профил на mr_vach
    mr_vach
    Рейтинг: 477 Неутрално

    До коментар [#30] от "half truth":Има , но само математически .....теоретично !Явно в нашите три измерения няма да се получи нещо на практика ....
    —цитат от коментар 31 на eti mehter


    Всъщност и в "нашите три измерения" се получава нещо напрактика...
    Сумата от масите на елемнтите след ядрен разпад е по-малка от сумата на масите на елементите преди реакцията- от там идва енергията при ядрен разпад, т.е. при ядрения реактор и атомната бомба.

    Същото е и при ядреното сливане- термоядрената бомба и процесът при който се генерира енергия в Слънцето.

    Също и в ЦЕРН: масата на частиците които се създават при сблъсък в ускорителя отговаря на кинетичната енергия на ускорените протони. Те затова се стараят да строят все по-мощни ускорители защото колкото повече кинетична енергия се концентрира в началните частици, толкова повече енергия има, която да се превърне в материя

    До коментар [#20] от "Консерватор": ... Практически, засега, ние можем да превръщаме материята в енергия, а обратното не.
    —цитат от коментар 24 на half truth


    Можем да превръщаме енергията в материя- точно това се случва в ЦЕРН и в другите ускорители на частици... Кинетичната енергия на ускорените частици при сблъсък създава материя- т.е. други частици (електрони, протони, мюони, неутрино, кварки, и т.н.)

    Порусначен народ- слаба държава
  34. 34 Профил на Николай_1
    Николай_1
    Рейтинг: 782 Неутрално

    Защо трябва да се страхуваме от бъдещо интелектулно превъзходство на машината над човека , след като досега тя многократно е доказала физическото си превъзходство над нас , носейки ни само ползи? Машината не би могла никога да придобие стремеж към власт или пари.
    Едно от най-важните предимства на изкуствения интелект се крие в една негова неспособност – неспособнсостта му да приема или предава куфарчета с пари...............

  35. 35 Профил на half truth
    half truth
    Рейтинг: 1797 Неутрално

    До коментар [#31] от "eti mehter":

    Всичко което е теоретически възможно, доказано с физически и математически методи, стига да са верни, някой ден ще се реализира практически. Превръщането

    материя=> енергия=> материя ще е върха.

    До тогава ще минат столетия или хилядолетие. Научнофантастичната идея за телепортация е следствие от тази физическа зависимост.

    В момента дори не можеме да превръщаме материята в енергия на 100%, винаги има остатъчна материя. Пр., изгаряме въглищата и получаваме топлина+пепел.

  36. 36 Профил на half truth
    half truth
    Рейтинг: 1797 Неутрално

    Можем да превръщаме енергията в материя- точно това се случва в ЦЕРН и в другите ускорители на частици... Кинетичната енергия на ускорените частици при сблъсък създава материя- т.е. други частици (електрони, протони, мюони, неутрино, кварки, и т.н.)
    —цитат от коментар 33 на mr_vach


    Да това се опитват да направят в ЦЕРН.

  37. 37 Профил на mr_vach
    mr_vach
    Рейтинг: 477 Неутрално

    До коментар [#31] от "eti mehter":
    Превръщането материя=> енергия=> материя ще е върха
    —цитат от коментар 35 на half truth


    Това е точно това което правят в ЦЕРН и в другите ускорители- превръщат кинетичната енергия на ускорените частици в други частици- например при взаймодействието между два протона (които са ускорени в противоположна посока с достатъчна енергия), може да се роди двойка
    електрон + анти-електрон (още известен като позитрон)

    Можете да имате реакция от типа:
    В началото:
    протон + протон + кинетична енергия

    След реакцията:
    протон + протон + електрон + позитрон + остатъчна кинетична енергия

    Важното е общият електричен заряд в края и в началото на реакцията да се запазва.

    Както и сумата от енергиите (като се отчете че масата на родените електрон + позитрон отговаря на енергия по формулата на Айнщайн E = M * C^2).
    И това е експериментален факт- всъщност тази реакция се наблюдава милиони пъти в секунда в ЦЕРН, когато големият ускорител работи и отдавна не е интересна



    Порусначен народ- слаба държава
  38. 38 Профил на Роси
    Роси
    Рейтинг: 8788 Неутрално
  39. 39 Профил на penetrating
    penetrating
    Рейтинг: 11054 Неутрално

    Повтарят вече направеното предупреждение на Стивън Хокинг

    Some people have got a mental horizon of radius zero and call it their point of view. David Hilbert
  40. 40 Профил на charlesdegaulle
    charlesdegaulle
    Рейтинг: 1399 Неутрално

    Всичко се хаква, лесно или по-трудно. Проблема е, че ИИ е основан на постулати, които са негова база, вписани в него. И могат да се хакнат. И обърнат ИИ към всичко негативно, което и не можем си представи. Практически, като система ИИ е незищитим, все още.

  41. 41 Профил на valtoro
    valtoro
    Рейтинг: 987 Неутрално

    Всяко откритие на човека е със двойно предназначение от желязото до атома !!!

  42. 42 Профил на nye
    nye
    Рейтинг: 450 Неутрално

    До коментар [#33] от "mr_vach":
    заели сте се с непосилната задача да обяснявате физика на бетонно блокче, което не е особено продуктивна работа. :)

    Можем да превръщаме енергията в материя- точно това се случва в ЦЕРН и в другите ускорители на частици...
    —цитат от коментар 33 на mr_vach

    не Ви е необходим ускорител дори. всеки гама квант с енергия над 1.022 MeV-a, получен при някакъв разпад (например Al28, получава се от Al27 при активация с неутрони), може да "роди" двойката електрон-позитрон попадайки в електричното поле на ядрото. анихилационната енергия е изключително характерна в спектъра на източника:
    http://ns.ph.liv.ac.uk/ ~ajb/radiometrics/practical_analysis/environmental_aspects/images/escape_peak.gif

    http://postclamores.blogspot.com
  43. 43 Профил на mr_vach
    mr_vach
    Рейтинг: 477 Неутрално

    До коментар [#42] от "nye":

    Благодаря за линка!
    Да, това е друг пример за преобразуването на енергия в материя...

    >>>"заели сте се с непосилната задача да обяснявате физика на бетонно блокче, което не е особено продуктивна работа. :)"

    Не мисля, че е загубено време, ако някой все пак научи нещо на тема физика- тогава форумът ще си е изпълнил функцията.

    Като заключение, можем да кажем, че знаем поне няколко процеса при които енергията се превръща в материя, но не по начина по който го правят в Старт Трек :)

    Порусначен народ- слаба държава
  44. 44 Профил на Иван  К
    Иван К
    Рейтинг: 3099 Неутрално

    До коментар [#14] от "mr_vach":
    "ЗА и ПРОТИВ забраната на автономните оръжия"

    Против са всички държави, които сега третират гражданите си като роботи. Те нямат нужда от друг вид роботи освен робите.

    подпис




За да коментирате, е нужно да влезете в профила си или да се регистрирате.
С използването на сайта вие приемате, че използваме „бисквитки" за подобряване на преживяването, персонализиране на съдържанието и рекламите, и анализиране на трафика. Вижте нашата политика за бисквитките и декларацията за поверителност. ОK