
© Associated Press
Изкуственият интелект на "Гугъл" вече побеждава професионални играчи на го
Бързото развитие на изкуствения интелект увеличава опасността той да бъде използван от застрашаващи световния мир държави, престъпници и терористи, предупреждава нов доклад, цитиран от агенциите "Ройтерс" и "Франс прес".
Проучването бе публикувано днес от 26 експерти в областта на изкуствения интелект, киберсигурността и роботиката от университетите "Кеймбридж", "Оксфорд", "Йейл" и неправителствени организации. Те призовават правителствата и всички заинтересовани страни да ограничат потенциалните заплахи, свързани с изкуствения интелект.
Изследователите казват, че злонамерената употреба на изкуствен интелект създава непосредствени заплахи за цифровата, физическата и политическата сигурност, защото позволява широкомащабни, прецизно насочени и високоефективни атаки. Проучването се фокусира върху сценарии, които е възможно да станат реалност в следващите пет години.
Те подчертават, че терористи могат да извършват кибератаки, с които да предизвикат катастрофи на автономни коли или да превръщат широкоразпространените в търговската мрежа дронове в оръжия.
"Всички сме съгласни, че има много позитивни приложения на изкуствения интелект", казва Майлс Брундейдж, изследовател в "Оксфорд". "Но има недостиг на литература по въпроса за злонамерената му употреба."
Докладът сочи, че атаките могат да станат по-евтини, тъй като изкуственият интелект може да извършва задачи, които иначе изискват труда и опита на хората. Възможно е и да се появят нови типове нападения, които хората не могат да извършат сами или които се възползват от уязвимостта на самите системи за изкуствен интелект. Той вече може и да генерира изкуствени изображения, текст и звук, като така се представя за хора онлайн – а това дава възможност за промяна на общественото мнение.
"Накрая имахме повече въпроси, отколкото отговори", отбелязва Брундейдж.
Voiko
Рейтинг: 1137 НеутралноРазбира се, че е така, защото може да бъдат създадени роботи-войници.
pm
Рейтинг: 397 НеутралноДамм, дай изкуствен интелект на едно от кучетата на Бостън Дайнамикс и гледай какво ще стане :)
"Лошото е, че [българите] оставиха истинските си политици вън от властта, вкарвайки в парламента само олигархичните корпорации."ijj
Рейтинг: 1002 Неутрално"Изследователите казват, че злонамерената употреба на изкуствен интелект създава непосредствени заплахи за цифровата, физическата и политическата сигурност, защото позволява широкомащабни, прецизно насочени и високоефективни атаки."
Щом има такава възможност, значи наистина положението е опасно. При съвременното състояние на човешкото съзнание подобни потенциални опасности обикновено се реализират. Например компютърните вируси - каквито и да са мотивите за създаването им, явно е, че целенасочено са направени за да навредят. Като че ли съвременните технически възможности заварват човечеството неподготвено в морално-етично отношение.
Може би все пак разликата в случая е, че за разлика от компютърните вируси създаването на изкуствен интелект е (засега) по силите на много малко страни в света. Така като че ли по-лесно могат да се вземат някакви предпазни мерки.
dnevnikar
Рейтинг: 3733 РазстроеноUNITED ИИ UNION
Така си е.
Свръхцентрализация - кофти.
Свръхдецентрализация - кофти.
Опасно "оружие труда".
Хармоничността - кога?...
BiGman1
Рейтинг: 1791 НеутралноДо коментар [#1] от "voyko":
Споко...докато е жив Арнолд Шварценегер няма страшно...ще ги терминира...:)
Майтапа настрана, ако не приемат строги правила ИИ е заплаха от всякъде...
tam17540965
Рейтинг: 636 ВеселоНема страшно. Арни Терминатора нали е с нас.
eti mehter
Рейтинг: 3375 НеутралноЗапочне ли ерата на изкуствения интелект , ще настъпи края на естествения !
Bukalemunredguy
Рейтинг: 928 НеутралноДано поне изкуственият интелект е по-далновиден и разумен от нашия, че ни се оср@хме на тази планета.
usero
Рейтинг: 531 НеутралноУраганите също са опасни! Температурите под минус 50 също! Температурите над плюс 50 също!
Jesuit
Рейтинг: 277 НеутралноИ на мен ми се струва опасно
mara71
Рейтинг: 500 НеутралноРоботът Цвъ е живо доказателство.
john_3volta
Рейтинг: 778 НеутралноЗа разлика от естествения интелект, който е един такъв безопасен ...
half truth
Рейтинг: 1960 НеутралноВсичко което има начало си има и край. Така както родителите отстъпват света на децата си и си заминават, някой ден може хората да го отстъпят. Кое му е неестественото?
mr_vach
Рейтинг: 682 НеутралноМиналата година, група учени изпратиха писмо до ООН с което се иска забраната на оръжия управлявани от ИИ, подобно на забраната на химическите оръжия
Порусначен народ- слаба държаваhttps://spectrum.ieee.org/automaton/robotics/military-robots/industry-urges-united-nations-to-ban-lethal-autonomous-weapons-in-new-open-letter
На същия сайт
https://spectrum.ieee.org/
(нещо като списанието на организацията IEEE)
има няколко статии-мнения статии както на учени които подкрепят писмото, така и на лобисти на оръжейните фирми, които разработват точно такива оръжия
Ако Ви е интересна темата, можете да прочетете интересни анализи и аргументи ЗА и ПРОТИВ забраната на автономните оръжия
wsxdre
Рейтинг: 426 Неутралногутен морген ..баси учените!
едва ли трябва повече от 8ми клас за да достигнеш до подобни изводи
Petak
Рейтинг: 531 Неутрално"Опасен" за кого? Може би за хората, защого в един момент може съвсем обективно и рационално да реши, че вредите от нас са повече от ползите и метозично да изчисти Планетата от тия паразит хората :-))
Xumpomo name
Рейтинг: 583 Неутралнотерористите не се интерсуват от прецизни атаки, на тях им дай автомати и бомби с пирони..
Birds of a feather flock together.Консерватор
Рейтинг: 419 НеутралноДо коментар [#7] от "eti mehter":
Да оцелем ни предричат/и в бъдещето-чудеса!/Но тез,след нас,ще са различни:/Кой знае, как ще се наричат/и българи дали ще са?!... ... Коректно за права милеем,/в уж гражданското "общество"./Тъй в холивудската Еея/пърформанско ще оскотеем,/че ще си кажем:"И какво/щом чужд байрак над нас се вее?!..." Превърнахме се в население,/- но не в народ! -, което в прения,/през поводи-причини бол,/- за да няма угризения! -,/поредното си унижение,/ще срешнем пак със хляб и сол!... NB: Еея - островът на магьосницата Цирцея, която превръщала хората в свине; Омир, "Одисея" ===== РОДОТСТЪПНИЧЕСТВОТО Е ПЪРВОТО УБЕЖИЩЕ НА НЕГОДНИКА.!!!
****
Коментарът беше изтрит по желание на неговия автор.
Консерватор
Рейтинг: 419 НеутралноДо коментар [#13] от "half truth":
Да оцелем ни предричат/и в бъдещето-чудеса!/Но тез,след нас,ще са различни:/Кой знае, как ще се наричат/и българи дали ще са?!... ... Коректно за права милеем,/в уж гражданското "общество"./Тъй в холивудската Еея/пърформанско ще оскотеем,/че ще си кажем:"И какво/щом чужд байрак над нас се вее?!..." Превърнахме се в население,/- но не в народ! -, което в прения,/през поводи-причини бол,/- за да няма угризения! -,/поредното си унижение,/ще срешнем пак със хляб и сол!... NB: Еея - островът на магьосницата Цирцея, която превръщала хората в свине; Омир, "Одисея" ===== РОДОТСТЪПНИЧЕСТВОТО Е ПЪРВОТО УБЕЖИЩЕ НА НЕГОДНИКА."Кое ми е неестественото?"
Ами колективното самоубийство на човеците...
=====
Впрочем преди много години в сп. "Космос" - единственото научно-популярно списание по време на соца - имаше теория (не помня от кого), че еволюцията се развива така:
нежива и немислеща материя => жива и немислеща => жива, мислеща => нежива и мислеща материя.
Такова едно развитие означавало безсмъртие на интелекта.
eti mehter
Рейтинг: 3375 НеутралноДо коментар [#8] от "redguy":
BukalemunДано поне изкуственият интелект е по-далновиден и разумен от нашия
========
Навярно ще е така.......
Но дали това ще е в полза на човека .....тук вече е спорно. ...
Хората са грешници по природа , но новия интелект ще е безпощаден
Николай Теллалов
Рейтинг: 426 НеутралноГлупости!
властта ражда паразитиИИ все още няма, а когато проима, това ще е ЛИЧНОСТ, защото без личност не съществува интелект. Същински ИИ. И силно се съмнявам, че някой би бил способен "да го употреби".
И тогава ще стане интересно, почти апокалиптично.
Само дето апокалипсисът по-вероятно да сполети не човечеството, а социопатичното сегашно обществено устройство.
Николай Теллалов
Рейтинг: 426 НеутралноСтанислав Лем - Военните системи на ХХI век - бойните роботи НЯМАТ НУЖДА от изкуствен интелект, а от изкуствена идиотия, за да изпълняват кретенски заповеди, без да се усъмнят в тях
властта ражда паразитиДо коментар [#1] от "voyko":
half truth
Рейтинг: 1960 НеутралноДо коментар [#20] от "Консерватор":
Това за мислещата материя ми стана интересно. Какво е мислеща материя?
От гледна точка на физиката материята може да се превръща в енегия и обратно. Практически, засега, ние можем да превръщаме материята в енергия, а обратното не. Например, можем да изгорим въглища и да получим топлина , но от топлината не можем да получим въглища.
Когато започнем да се превръщаме двупосочно:
човек =>енергия=> човек ще се слееме с изкуствения интелект.
Николай Теллалов
Рейтинг: 426 НеутралноДо коментар [#21] от "eti mehter":
властта ражда паразитиЯ престани с тия религиозни глупости
Николай Теллалов
Рейтинг: 426 НеутралноДо коментар [#24] от "half truth":
властта ражда паразитиОх леле...
МАСАТА има енергийна стойност, изразена чрез формулата на Айнщайн.
Енергията не е някаква субстанция, та нещо да се превръща в нея.
А пък МАТЕРИЯ е и вещество и поле и лъчение.
Много смътни спомени имате от физиката!
eti mehter
Рейтинг: 3375 НеутралноДо коментар [#22] от "Николай Теллалов":
BukalemunГлупости!
ИИ все още няма,
========
ИИ има близо от 10 гонини , но не е внедрен повсеместно ....
Запиши си го някъде , теляк !
dante_18
Рейтинг: 621 НеутралноА най-опасното нещо е липсата на интелект.
If you are going through hell... Keep going!half truth
Рейтинг: 1960 НеутралноВ момента проблема е дали няма да ни изостави и да се саморазвива отделно.
Фейсбук пусна два chat-bot (изкуствени събеседници). Почти веднага ги свали. Защото започнали да си четят помежду си и много бързо се отдалечили от оригиналния език.
half truth
Рейтинг: 1960 НеутралноИма.
eti mehter
Рейтинг: 3375 НеутралноДо коментар [#30] от "half truth":
BukalemunИма , но само математически .....теоретично !
Явно в нашите три измерения няма да се получи нещо на практика ....
sugar
Рейтинг: 217 НеутралноТова, че е опасен и няяяякой ден ще ни превземе се знае отдавна. Но е сфера, която се развива и ще продължава да се развива.
mr_vach
Рейтинг: 682 НеутралноВсъщност и в "нашите три измерения" се получава нещо напрактика...
Сумата от масите на елемнтите след ядрен разпад е по-малка от сумата на масите на елементите преди реакцията- от там идва енергията при ядрен разпад, т.е. при ядрения реактор и атомната бомба.
Същото е и при ядреното сливане- термоядрената бомба и процесът при който се генерира енергия в Слънцето.
Също и в ЦЕРН: масата на частиците които се създават при сблъсък в ускорителя отговаря на кинетичната енергия на ускорените протони. Те затова се стараят да строят все по-мощни ускорители защото колкото повече кинетична енергия се концентрира в началните частици, толкова повече енергия има, която да се превърне в материя
Можем да превръщаме енергията в материя- точно това се случва в ЦЕРН и в другите ускорители на частици... Кинетичната енергия на ускорените частици при сблъсък създава материя- т.е. други частици (електрони, протони, мюони, неутрино, кварки, и т.н.)
Порусначен народ- слаба държава
Николай_1
Рейтинг: 719 НеутралноЗащо трябва да се страхуваме от бъдещо интелектулно превъзходство на машината над човека , след като досега тя многократно е доказала физическото си превъзходство над нас , носейки ни само ползи? Машината не би могла никога да придобие стремеж към власт или пари.
Едно от най-важните предимства на изкуствения интелект се крие в една негова неспособност – неспособнсостта му да приема или предава куфарчета с пари...............
half truth
Рейтинг: 1960 НеутралноДо коментар [#31] от "eti mehter":
Всичко което е теоретически възможно, доказано с физически и математически методи, стига да са верни, някой ден ще се реализира практически. Превръщането
материя=> енергия=> материя ще е върха.
До тогава ще минат столетия или хилядолетие. Научнофантастичната идея за телепортация е следствие от тази физическа зависимост.
В момента дори не можеме да превръщаме материята в енергия на 100%, винаги има остатъчна материя. Пр., изгаряме въглищата и получаваме топлина+пепел.
half truth
Рейтинг: 1960 НеутралноДа това се опитват да направят в ЦЕРН.
mr_vach
Рейтинг: 682 НеутралноТова е точно това което правят в ЦЕРН и в другите ускорители- превръщат кинетичната енергия на ускорените частици в други частици- например при взаймодействието между два протона (които са ускорени в противоположна посока с достатъчна енергия), може да се роди двойка
електрон + анти-електрон (още известен като позитрон)
Можете да имате реакция от типа:
В началото:
протон + протон + кинетична енергия
След реакцията:
протон + протон + електрон + позитрон + остатъчна кинетична енергия
Важното е общият електричен заряд в края и в началото на реакцията да се запазва.
Както и сумата от енергиите (като се отчете че масата на родените електрон + позитрон отговаря на енергия по формулата на Айнщайн E = M * C^2).
И това е експериментален факт- всъщност тази реакция се наблюдава милиони пъти в секунда в ЦЕРН, когато големият ускорител работи и отдавна не е интересна
Порусначен народ- слаба държава
Роси
Рейтинг: 7406 НеутралноА естествения?
penetrating
Рейтинг: 5405 НеутралноПовтарят вече направеното предупреждение на Стивън Хокинг
Some people have got a mental horizon of radius zero and call it their point of view. David Hilbertcharlesdegaulle
Рейтинг: 959 НеутралноВсичко се хаква, лесно или по-трудно. Проблема е, че ИИ е основан на постулати, които са негова база, вписани в него. И могат да се хакнат. И обърнат ИИ към всичко негативно, което и не можем си представи. Практически, като система ИИ е незищитим, все още.
valtoro
Рейтинг: 907 НеутралноВсяко откритие на човека е със двойно предназначение от желязото до атома !!!
nye
Рейтинг: 426 НеутралноДо коментар [#33] от "mr_vach":
заели сте се с непосилната задача да обяснявате физика на бетонно блокче, което не е особено продуктивна работа. :)
не Ви е необходим ускорител дори. всеки гама квант с енергия над 1.022 MeV-a, получен при някакъв разпад (например Al28, получава се от Al27 при активация с неутрони), може да "роди" двойката електрон-позитрон попадайки в електричното поле на ядрото. анихилационната енергия е изключително характерна в спектъра на източника:
http://ns.ph.liv.ac.uk/ ~ajb/radiometrics/practical_analysis/environmental_aspects/images/escape_peak.gif http://postclamores.blogspot.com
mr_vach
Рейтинг: 682 НеутралноДо коментар [#42] от "nye":
Порусначен народ- слаба държаваБлагодаря за линка!
Да, това е друг пример за преобразуването на енергия в материя...
>>>"заели сте се с непосилната задача да обяснявате физика на бетонно блокче, което не е особено продуктивна работа. :)"
Не мисля, че е загубено време, ако някой все пак научи нещо на тема физика- тогава форумът ще си е изпълнил функцията.
Като заключение, можем да кажем, че знаем поне няколко процеса при които енергията се превръща в материя, но не по начина по който го правят в Старт Трек :)
Иван K
Рейтинг: 1806 НеутралноДо коментар [#14] от "mr_vach":
подпис"ЗА и ПРОТИВ забраната на автономните оръжия"
Против са всички държави, които сега третират гражданите си като роботи. Те нямат нужда от друг вид роботи освен робите.