
© Associated Press
Илон Мъск.
Повече от сто водещи експерти в роботиката и изкуствения интелект, сред които основателят на "Тесла" Илън Мъск, призоваха ООН да предотврати създаването на "роботи убийци".
116 души са се подписали под отворено писмо, в което предупреждават, че бързото развитие на автономни оръжия поставя света пред невиждани досега опасности.
"Има опасност автономните смъртоносни оръжия да бъдат третата революция във военното дело. След като веднъж бъдат развити, те ще позволят въоръжените конфликти да се водят в невиждано голям мащаб и със скорост, неразбираема за хората. Те могат да се използват за тероризъм; в ръцете на деспоти и терористи да бъдат употребени срещу невинни хора, да бъдат хакнати и накарани да действат в нежелани посоки. Нямаме време. Отворим ли веднъж кутията на Пандора, ще бъде трудно да я затворим."
ООН вече обяви създаването на група от правителствени експерти по смъртоносните автономни оръжия, чиято първа среща трябваше да се проведе днес. Но тя бе отложена, тъй като някои държави не са платили финансовите си задължения към организацията. Това предизвика острата реакция на учените, които настояха ООН да удвои усилията си за провеждането на срещата, отложена за ноември.
Писмото бе разпространено и в началото на Международната конференция за изкуствения интелект (IJCAI), която започва днес в Мелбърн. Преди две години над 1000 участници в нея подписаха писмо, предупреждаващо за огромната заплаха от това. Сред тях отново бе Илън Мъск, както и съоснователят на Apple Стив Возняк и физикът Стивън Хокинг. Сега към текста се присъедини към съоснователят на компанията за изкуствен интелект на "Гугъл" - DeepMind, Мустафа Сюлейман.
Какво е "робот убиец"
Напълно самостоятелно оръжие, което може да избира мишени и да действа срещу тях, без да има нужда от човешка намеса, обяснява Би Би Си. Те все още не съществуват, но технологията напредва толкова бързо, че скоро ще бъдат създадени. Според някои експерти това ще отнеме години, а не десетилетия, както се смяташе доскоро.
Съпротива
Миналата година Етичният съвет на суверенния фонд на Норвегия на стойност 830 млрд. долара предприе изненадваща стъпка – официално предупреди компаниите по света да не развиват роботи, които могат да убиват. Норвегия има толкова голям суверенен фонд, че притежава 1.3% от акциите на всички компании по света и законите я задължават да спазва определени етични правила, когато инвестира.
"Това е честно предупреждение", каза тогава председателят на съвета Йохан Андресен пред "Ройтерс". "Да развивате технология за разпознаване на рака е добре. Но ако адаптирате тази технология за следене на определен индивид в определена обстановка, ако си сътрудничите с други, за да създадете автономно оръжие, не се изненадвайте, ако ви следим изкъсо."
През 2015 г. Мъск, заедно с Питър Тиел от PayPal и Сам Алтман от Y Combinator, основа компанията OpenAI, която разработва изкуствен интелект, но поставя акцент над гаранциите, че той няма да се обърне срещу човечеството.
bee
Рейтинг: 1194 НеутралноСамо роботи-убийци му трябват на света, че малко са му другите.
" Истинската мярка за човека е как се отнася към този, който не може да му бъде полезен. "lustmord
Рейтинг: 341 НеутралноОнези миролюбивите ако се докопат до подобна технология съвсвем ще я втасаме...
danvan
Рейтинг: 666 НеутралноДневник, ЕЛон спекулира със страха на тълпата, защото има интерес, ама вие що повтаряте тая глупост не е ясно ....
Българите са малък, но изключително прост народ. Sapienti Sathityrpetyr
Рейтинг: 233 НеутралноДанВан - вчера в ФБ циркулираше клип на руски робот, който стреля с два пистолето едновременно ... Няма място за спекулации вече. Това ще ни застигне скоро, от нас зависи до каква степен ще сме подготвени ...
Един препатил
Рейтинг: 3040 Неутрално"- Парадоксът за сигнализирането (предупреждаването) от своя страна може да бъде преразказан с думи прости така:
Ние можем да разберем дали сигнализирането (предупреждаването) за възможни негативни последици е било основателно само ако сме пропуснали да го вземем под внимание, а ако сме го взели под внимание, ние никога не можем да разберем дали то е било основателно или не."
Thrasimedes
Рейтинг: 458 НеутралноВсяко устройство управлявано от изкуствен интелект може да бъде хакнато. Проблемът е, че целта на въпросните устройства ще бъде да убиват.
А едно устройство или машина не може да носи лична (нито колективна) отговорност и не подлежи на пряко съдебно преследване.
Конструирането на роботи-убийци, съвсем ще размие понятието за отговорност и ще затрудни преследването на масовите престъпления.
yellow_hater
Рейтинг: 324 НеутралноЯсно е, че всеки се бори за надмощие. Престъпността в светове мащаб излиза от релси. А когато и самоусъвършенстващият се изкуствен интелект започне да избива наред, не предстои нищо хубаво.
Особено ако "миролюбивите" се сдобият с технологията.
morf
Рейтинг: 837 НеутралноКакво правим с колите с автономно управление в този случай? Например Елон Мъск ще спре ли въвеждането на автономни системи в Теслите? Щото, както се вижда напоследък, чалмосаните доста успешно използват коли за оръжие.
Hepo
Рейтинг: 1885 НеутралноСтранно нещо е човека! Как се самоунищожава .
SHADOWS of SOFIAlone wolf
Рейтинг: 894 ЛюбопитноРоботите-убийци не могат да бъдат чак толкова опасни!
Да разлая троловете!!Опасни могат да са роботи, произвеждащи роботи!
Емо
Рейтинг: 637 НеутралноПроклятието на човека е, че ще направи всяко едно нещо, което може да бъде направено. Така че децата ни да се готвят за клонинги и терминатори. Дарбата му обаче е да оцелява.
Аз съм умнокрасив соросоиден либераст и съм благодарен, че не съм станал грознотъп путиновски диктатомачовец.stedim
Рейтинг: 2282 НеутралноВероятно вече има образци и затова идва това предупреждение.
sa6
Рейтинг: 737 НеутралноЗащо са роботи-убийци. Радикализация на младежи е далеч по-евтино.
Евроатлантидаsa6
Рейтинг: 737 Неутралноверорятно фирмите на въпросните алармиращи вече ги произвеждат. Защото всяка нова технология се пробва първо за оръжие, това е човешката природа. Евроатлантида
bgkurshum
Рейтинг: 821 НеутралноПризовали ООН. Нещо като борбата на сикаджията с корупцията. Откога резолюциите на ООН означават нещо за САЩ или Израел, напр.? Да призоват Конгреса на САЩ.
Да изринем сикаджията и мутренската му шайка! Този път завинаги!ironhorse
Рейтинг: 657 НеутралноКолко малко хора, ако въобще има оценяват какво си написал.
Сега ....
Опасен е робот създадена да убива хора, но все пак може да бъде обезвреден и унищожен.
Най-опасното е ако роботи произвеждат роботи, за да убиват хора.
Тогава, дори да унищожите един робот ще дойдат стотици ...
А инче технологията вече е налична и има създадени прототипи в САЩ и русия.
Въпросът е, че руският стреля де що шава, а на САЩ избирателно. Бойко Борисов и ГЕРБ са еманацията на корупцията и мафията в държавата.
citoyen
Рейтинг: 781 НеутралноДа. Вярвам, че не е далеч това време. И филми сме гледали на тази тема. А те и днес съществуват, само че в полуавтономен вариант. Засега.
marks_nazi
Рейтинг: 233 НеутралноРуският робот еамнайсето поколение пиянка..требе боя за обувки да се дрогира иначе стреля наслуки
Долу рушистите и фашиститеmailstone
Рейтинг: 233 ЛюбопитноВсеки биологичен вид има начало и край. приблизително около 10 мил. години, след това от него остават само фосили. изключение само някой видове риби. Така че както едно време писаха и пишат петиции срещу атома то тези оръжия продължават да си се развиват и усъвършенстват. Е, така ще стане и с "терминаторите". Ще дойде ден да дадем път на други видове евентуално след "рестарт" на живота на замята. Подобен "рестарт" е ставал поне 5 пъти на планетата.
Delenda Carthago!Pontif New Dnevnik SUCK
Рейтинг: 2019 НеутралноСпокойно деца! Това не е толкова лесно нито пък е необходимо. Скоро няма да има роботи като терминатора да ходят по улиците и да убиват хора.
California Über AllesТе сега преди дроновете да изстрелят ракета пет човека трябва да разрешат. (знам че Американците избиват хора по сватбите и кръщенета ...)
Няма необходимост от такива роботи колкото и да е чудно. Просто защото убиването не е трудната работа. Трудната работа е да намериш кой е за убиване и къде е.
Явор Рг
Рейтинг: 289 НеутралноПомнте ли овцата Доли?
.Тогава пак масово се апелираше генните модификации да се ограничат до растителни и животински видове и да не стигнат до човешките ембриони.
Учените се кълняха, че няма да допуснат това.
Но, то разбира се се случи.
Така е било и с "мирния атом", и с всичко останало.
Подобни призиви за "морал при разработката и използването на технологии" винаги са били въздух под налягане.
Начертаваните граници винаги са били пресичани. Отначало под благовиден предлог " в полза на човечеството" , а после нещата стават неуправляеми.
sa6
Рейтинг: 737 НеутралноИ ти ли вярваш в дядо Коледа?! Хората ти казват че идеята е че се създадат автономни оръжия, които сами решават кой е за убиване и кой не, също така нямат връзка с център за управление, защто тя се заглушава и е ненадеждна. Тези оръжия ще служат на някаква кауза, а след като станат достатъчно сложни и умни, ще решат да служат на своята си кауза, която може да се различава от тази, на създателите им. Евроатлантида
biolakotka
Рейтинг: 237 НеутралноДо коментар [#4] от "hityrpetyr":
ДанВан - вчера в ФБ циркулираше клип на руски робот, който стреля с два пистолето едновременно ... Няма място за спекулации вече. Това ще ни застигне скоро, от нас зависи до каква степен ще сме подготвени ...
Щом от ФБ вземаш и вярваш на инфо и то за руски роботи ще ти кажа едно....
Бахахахахаххахгхахахахаха😂😂😂😂😂😂😂😂
morf
Рейтинг: 837 НеутралноЗа тези, които слагат минусчета, може би ще е полезно да прочетат, как вече има експерименти с хакване на автономни коли, и да си представят какво ще стане ако 5 такива коли навлязат в пешеходна зона... мога да им подскажа - шофьорът управлява дистанционно и не може да бъде застрелян, т.е. колата трябва да бъде спряна по друг начин, който няма да е лесен.
https://www.wired.com/2017/04/ubers-former-top-hacker-securing-autonomous-cars-really-hard-problem/
lone wolf
Рейтинг: 894 ЛюбопитноДо коментар [#18] от "marks_nazi":
Да разлая троловете!!За тоя руски робот ли пишеш?
https://i.ytimg.com/vi/WG3OSWI42yU/maxresdefault.jpg
Наистина е опасен!
atmanpg
Рейтинг: 2411 НеутралноКакто се казва: Щом е възможно, значи е неизбежно.
Роси
Рейтинг: 8413 НеутралноНямаше ли закон в роботиката, че робот не може, с действие или бездействие да навреди на човек.
eti mehter
Рейтинг: 3768 РазстроеноТе все още не съществуват, но технологията напредва толкова бързо, че скоро ще бъдат създадени.
Bukalemun==========
Пак лъжат !
Поне 5 са страните които държат в лабораторни условия , подобни прототипи.
Но и това не е толкова важно.
Както са споменали някои , много по важно е по какъв начин "мислят" тия машинки ! И ако започнат да комуникират по между си , накъде ще тръгнат нещата ?
Ако се създаде една банда от 200....300 робота , действащи координирано помежду си , няма да има сила която да ги спре !
atmanpg
Рейтинг: 2411 НеутралноАзимов беше хуманист и вярваше в разумността на човечеството. Иначе казано - наивник.
Човека е склонен да проявява разум, но човечеството има разума на три-годишно дете.
sa6
Рейтинг: 737 Неутралносамо в разказите на Азимов Евроатлантида
Манчо
Рейтинг: 2045 НеутралноСамо да напомня, че ако за някакъв продукт на човешката мисъл се говори като за нещо предстоящо в близко бъдеще, то най-вероятно въпросният продукт вече е наличен в експериментален, опитен вариант. И до масовата му реализация остават броени години. Покрай демонстрирането на руския танк Армата се изплъзна инфото, че машината, освен с автоматичен, цифровизиран купол без хора в него, разполага със система за връзка с команден център, което позволява тя да се използва като убиец и без екипаж, чрез дистанционно компютърно управление. Това не е шега, а реалност, която може да бъде изключително опасна, тъй като ще снижи прага на задействане на една война до непознато ниски стойности.
Истинско удоволствие за полуграмотни хора, като мен, е да общуват с големите демократично-джазови интелектуалци от форума на Дневник!anarhochristian
Рейтинг: 627 НеутралноСа,о в творчеството на Азимов, за сега.
sa6
Рейтинг: 737 НеутралноДо коментар [#31] от "Манчо":
Евроатлантиданай-вероятно разработките са в посока, че роботите ще доизбият и малкото оцелели хора след ядрената война, за да може унищожението да е пълно и гарантирано
Умнокрасив
Рейтинг: 779 НеутралноХората се възприемаме като връх на еволюцията, но пропускаме възможността, че тя най-вероятно продължава и следващия господстващ вид на земята може да ни заличи, като вредни за съществуването на планетата. Това може да са й роботи с изкуствен (но по-добър от нашия) интелект.
No Pain No Gaineti mehter
Рейтинг: 3768 ЛюбопитноДо коментар [#10] от "lone_wolf":
BukalemunРоботите-убийци не могат да бъдат чак толкова опасни!
Опасни могат да са роботи, произвеждащи роботи!
========
Къде е разликата ? Само 1....2 години и ще е едно и също. ....
И всичко е заради оная система с която се гордееш и наричаш.....западно модерно общество !
И най радикалния джихадист щи се стори безобиден , пред някоя безпощадна стреляща ламарина !
vari
Рейтинг: 532 НеутралноТехнологиите са толкова отворени и достъпни в момента, че е въпрос само на време и мотивация да се изработят такива роботи.
И не, не си представяйте Арни от Терминатор. Представете си самуправляемо БМП което взема самостоятелно решение да отвърне на противников огън.
dolna4erti4ka
Рейтинг: 1002 Неутралнодобре че написахте руски робот за да стане ясно ,че е фалшива новина.Те рашките все са по 50 години напред ,но само с прототипи и фалшиви неща.
chicago514
Рейтинг: 1978 НеутралноМанчо
Рейтинг: 2045 НеутралноИ Хитлер твърди нещо подобно, преди да го опровергаят болезнено... Попитайте някой немец колко струва на Германия тази грешка.
Истинско удоволствие за полуграмотни хора, като мен, е да общуват с големите демократично-джазови интелектуалци от форума на Дневник!
Xumpomo name
Рейтинг: 627 НеутралноНе е трудно да се направи автономен робот, който да убива хора. Трудно е да се направи да не ги убива :)
Birds of a feather flock together.Xumpomo name
Рейтинг: 627 НеутралноПодозирам че в правоверните религиозни идеологии това не е проблем. Избийте всички, господ ще си познае неговите
Birds of a feather flock together.The Island
Рейтинг: 293 НеутралноОрганизацията ООН съществува, но реално всички я пренебрегват- най-вече руснаци и американци. ООН какво казва по въпросите - Сирия, Афганистан, Ирак, .....и други конфликтни зони. Абсолютно безгласни са. А явно създаването на Терминатор е близо. Може би вече е създаден.
abdulhazred
Рейтинг: 542 НеутралноДо коментар [#2] от "lustmord":
ИДИЛ вече успешно ползват в Сирия и Ирак дронове бомбардировачи с малки бомби с размер на граната и са доста добри, целята до 1-2 метра и убиват/раняват всичко всичко в радиус 5-10 метра от попадението
Има техни рекламни клипове в нета.
Хизбула в Сирия също успешно експериментира с подобни дронове.
zyx
Рейтинг: 289 НеутралноЗа щастие настоящето технологично развитие не позволява изработката на самоуправялваща се машина, която да има достатъчно "акъл" и независимост да действа опасно в обществени мащаби. Енергийната независимост на подобен робот е безкрайно малка, подвижността му е трудна, сензорите му са изключително чувствителни на най-обикновени въздействия (на практика може да ги чупи и дете с камък). От друга страна подобно нещо изглежда доста странно (независимо дали става дума за хуманоиден, 2н-крак, колесен или въздушен терминатор) и далеч преди да бъде опасен ще бъде разкрит и обезвреден. Това е сега и в близките 15-20години. После - ще видим.
Разбира се съвсем друго е положението ако действието се вмени на съществуващ дрон , управляван от човек. Доста поразии могат да се направят с въздушен дрон , въоръжен с ракети или верижен Уран 9, примерно.
тулса
Рейтинг: 3472 ВеселоДо коментар [#37] от "dolna4erti4ka":добре че написахте руски робот
...>> Може и ..македонски робот да е.Нали наричаха едновремената стрелба с два пищова "македонска стрелба"?
Xumpomo name
Рейтинг: 627 НеутралноДо коментар [#43] от "abdulhazred":
Birds of a feather flock together.това са радиуправляеми модели, не са автономни роботи.
Лео
Рейтинг: 1155 НеутралноИнтересно - робота убиец не можеш да го съдиш за престъпление, обаче ако го унищожиш, могат да те осъдят за повреда на чужда собственост...
Karla Hanneman
Рейтинг: 458 НеутралноОсобено ме притесняват роботите-убийци при положение , че във всеки момент може някой пощурял почитател на пророка-педофил да ме сгази , наръга , взриви , или каквото там им се замотае в примитивните глави , дагиеее!
Karla , Майти Готическа Принцеса!п.п. Браво на Елон Мъск , че се е сетил и за роботите-убийци да помисли!
tacheaux
Рейтинг: 4067 НеутралноВ развитите технологични страни ,роботизацията в промишлеността е напреднала дотолкова, че работниците изчезват. Примерно от 100 работници остават само 10 като оператори. Основната грижа сега на синдикатите е , че в скоро време няма да има работници на които да защитават правата.
При военните роботизацията също е напреднала в посока намаляване на живата сила при водене на военни сражения и заменянето на войника с робот. В ютуба има много клипове в които са показани подобни роботи. Тук съм постнал само някои от тях:
https://www.youtube.com/watch?v=gLqM7TJX4BE
https://www.youtube.com/watch?v=sZ_-yb-TN9M
https://www.youtube.com/watch?v=O52HaYWwJb8
Karla Hanneman
Рейтинг: 458 ВеселоЕ от ТОВА пък най-вече ме е страх! От РУСКИТЕ роботи!
п.п. Пхххххааахахахахахахааааа!!! Karla , Майти Готическа Принцеса!
joro4900
Рейтинг: 860 ВеселоДо коментар [#2] от "lustmord":
„Онези миролюбивите ако се докопат до подобна технология съвсвем ще я втасаме...“
А обратното? Ако „подобната технология“ докопа миролюбивите?
klimentm
Рейтинг: 3960 ВеселоПрай впечатления че Хокинг подписва всяко налудничаво писмо?!
klimentmpenetrating
Рейтинг: 6034 НеутралноНорвегия предупреждава, защото етичния и кодекс забранява да инвестира в компании, разработващи оръжия.
Some people have got a mental horizon of radius zero and call it their point of view. David HilbertА кутия на Пандора може ли едно да се отвори в сегашното състояние на сигурността по света и намаляващите цени за внедряване на иновативни продукти. Впрочем Мъск иска да развива изкуствен интелект с отворен код - това е също много опасно. Не всички терористи са с първокласно образование.
charlesdegaulle
Рейтинг: 1337 РазстроеноДо коментар [#9] от "ka2":
+++! Наричат го "човешка натура". Всяко нещо, измислено да помага, се използва за убийство. Като се започне от камъка, тоягата и ножа... Но с ИИ, просто мащаба е друг.
klimentm
Рейтинг: 3960 ВеселоДо коментар [#50] от "Karla Hanneman":
klimentmРуски робот си е нонсенс от всякъде!
Светлото бъдеще
Рейтинг: 233 ВеселоИнтригуващо, значи пъпчивите геймъри и чекиджиите ще са начело в следващите войни.
Колко всъщност е прост българският народ и колко трола има във всяка статия? ( Комунизмът е по-вреден от радиацията.)Това ако не е вълнуващ стимул за всички малоумни електронни играчи и "спортисти".
jelev_jelqzko
Рейтинг: 1078 НеутралноИма умопомрачително число звезди и т.н. За да не сме регистрирали извън земен живот до днес има само едно разумно обяснение:
На някакъв праг от развитието си разумния живот се самоунищожава.Прага очевидно е доста нисък.
И да при милиарди и милиарди светове няма начин да сме изкл'чението.
jelev_jelqzko
Рейтинг: 1078 НеутралноГорното следва да те прави щастлив. Днес света се управлява от изкуфели старци с малки изкл.
Не знам защо се сетих за Макрон. Той към коя категория е?
Светлото бъдеще
Рейтинг: 233 ВеселоДо коментар [#58] от "jelev_jelqzko":
Колко всъщност е прост българският народ и колко трола има във всяка статия? ( Комунизмът е по-вреден от радиацията.)И защо геймърите са по-читави от старците?
Ах, каква дискриминация!
mnp11529925
Рейтинг: 8 НеутралноНе е лошо дивите племена в джунглите на Южна Америка, Папуа и пр. места да бъдат добре изолирани и оградени от цивилизацията. Когато уж развитото човечество се самоунищожи поне да има кой да продължи човешкия род и впоследствие отново да заселят всички континенти.
952
Рейтинг: 644 НеутралноУчените да не се чудят какви роботи за убиване да сътворяват, ами като са толкова дОбри- да вземат да измислят някой робот да ходи на работа вместо мен, и накрая на месеца- да ми носи парите вкъщи.
Колко жалко, че всички, които знаят как трябва да се управлява България, са заети да пишат разни неща по форумите...Е тогава ги признах! 😂😂😀😂😀
Иначе- с убиването- и сега сме напред, няма нужда от повече.
patilanskomeze
Рейтинг: 346 Неутрално"Норвегия има толкова голям суверенен фонд, че притежава 1.3% от акциите на всички компании по света и законите я задължават да спазва определени етични правила, когато инвестира." -- малко странична тема но все пак: https://en.wikipedia.org/wiki/Government_Pension_Fund_of_Norway
Норвегия е пример как може да имаш огромни залежи петрол и газ и...да не ги просереш като арабите, руснаците, и южно-американците. Техните природни богатства не създадоха каста мега-олигарси, не доведоха до златни тоалетни за министрите им, не се появи огромна енергийна мафия. Напротив--всички живеят както и преди--скромно и с достоинство, и периодично гласуват как да се инвестират малки част от техните държавни ЕДИН ТРИЛИОН ДОЛАРА, който са събрали за последните 20 години.
Иначе парите са главно за пенсии, и т.н.
agile
Рейтинг: 233 Неутрално"Роботите убийци са невиждана заплаха за човечеството, предупредиха експерти"
Баси, и сред професионалните килъри ще настъпи висока безработица...
Pontif New Dnevnik SUCK
Рейтинг: 2019 Неутрално[quote#22:"sa6"][/quote]
California Über AllesОК аз вярвам в Дядо Коледа ти вярваш в Дявола. Можеш ли да ми обясниш на кой му е нужен такъв робот? Както ти го описваш - тръгва по улиците на някой град и започва да избива "правилните" хора. Дай един сценарий който изисква такова нещо. Дай един признък по който робота ще избира кой да убие и кой не. Ако ще избиваш всичко което мърда то и сега има такива оръжия и са евтини. Наричат се бомби. Но и сега нямаш право да убиваш всички. Има такова нещо като Женевска конвенция.
Помисли малко и ще видиш че за всеки възможен сценарий който можеш да измислиш вече има по-евтино и по-надеждно оръжие което да върши същата работа.
puknatastotinka
Рейтинг: 933 ВеселоСледователно, и това коет' не шава...
Fred
Рейтинг: 1431 НеутралноОпитът показва, че когато едно оръжие може да бъде създадено то се създава. Причините са прости, всеки иска да има надмощие над противника си. И всеки го е страх, че противника му ще го изпревари.
Юда се продаде за 30 сребърника, ДБ за 8 районни кмета.