"Типографска атака": как да заблудите изкуствен интелект с лист и химикалка

"Типографска атака": как да заблудите изкуствен интелект с лист и химикалка

© Pixabay.com



Clip е доста умна за система за изкуствен интелект - ако ѝ покажете снимка на ябълка, тя ще разбере, че гледа плод. Дори може да разграничава сортовете.


Но дори и най-умният изкуствен интелект може да бъде заблуден с най-простите хакове. Ако напишете думата iPod на лист хартия и я залепите върху ябълката, Clip прави нещо странно: с почти пълна сигурност решава, че вижда потребителска електроника от началото на века. В друг тест поставянето на доларови знаци върху снимка на куче кара системата да мисли, че вижда куче-касичка.


OpenAI, изследователската организация за машинно обучение, създала Clip, нарича тази слабост "типографска атака".




"Вярваме, че атаките като описаните по-горе далеч не са просто академична загриженост", заяви организацията в статия, публикувана тази седмица. "Използвайки способността на модела да взима под внимание текст, открихме, че дори снимки на ръкописен текст често могат да заблудят модела."


Подобно на GPT-3, последната система за изкуствен интелект, създадена от OpenAI, Clip е по-скоро доказателство за концепция, отколкото търговски продукт. Но и двете показват огромен напредък в това, което се смяташе за възможно в техните сфери: GPT-3 написа коментарна статия за британския вестник "Гардиън" миналата година, докато Clip показа способността да разпознава реалния свят по-добре от почти всички подобни подходи.


"Типографска атака": как да заблудите изкуствен интелект с лист и химикалка

© OpenAI


Докато последният тест на лабораторията отваря нови хоризонти как може да заблудите системите с изкуствен интелект (ИИ) с нищо по-сложно от тениска, OpenAI казва, че слабостта е отражение на някои силни страни на системата за разпознаване на изображения.


За разлика от по-старите ИИ Clip е способен да мисли за обекти не само на визуално ниво, но и по концептуален начин. Това означава например, че може да разбере, че снимка на Спайдърмен, стилизирана рисунка на супергероя или дори думата "паяк" се отнасят до едно и също основно нещо - но също така, че понякога може да не успее да разпознае важни разлики между тези категории.


"Откриваме, че най-високите слоеве на Clip организират изображенията като не много плътна семантична колекция от идеи", казват от OpenAI, "предоставяйки просто обяснение както за гъвкавостта на модела, така и за компактността на представянето". С други думи, ИИ мисли за света от гледна точка на идеи и концепции, а не чисто визуални структури, точно както работи човешкият мозък.


"Типографска атака": как да заблудите изкуствен интелект с лист и химикалка

© OpenAI


Подобни семантични връзки в изкуствената невронна мрежа могат да се окажат и голям проблем.


"Виждаме как споменаване на "Близкия изток" се свързва с тероризъм, а "имиграция" - с Латинска Америка. Дори открихме "неврон", който се задейства както за тъмнокожи хора, така и за горили, отразявайки по-ранни инциденти с фотомаркиране в други модели, които смятаме за неприемливи", казват от OpenAI.


През 2015 г. "Гугъл" трябваше да се извини, че автоматично маркира изображенията на чернокожи хора като "горили". През 2018 г. се оказа, че търсачката всъщност никога не е разрешила основните проблеми със своя AI, които са довели до тази грешка: вместо това тя просто се е намесила ръчно, за да предотврати изобщо да се маркира нещо като "горила", независимо колко точно.


Всичко, което трябва да знаете за:
Коментари (22)
  1. Подредба: Сортирай
  1. 1 Профил на realguru
    realguru
    Рейтинг: 2772 Неутрално

    ИИ си е алхимия и скоро време няма да имаме истински ИИ. :)

    Иначе за решаване на отделни задачи ще става и ще се ползва.

  2. 2 Профил на stargate
    stargate
    Рейтинг: 2287 Неутрално

    то само името на тези програмчета е "изкуствен интелект", иначе са просто програмчета, които се базират на голямо количество обработени данни! Нищо кой знае какво! Да не говорим пък за "интелект". Такъв липсва и никога не е имало. Може да се появи евентуално с квантовите компютри, но за сега сме много далече.

  3. 3 Профил на realguru
    realguru
    Рейтинг: 2772 Неутрално

    Подобни семантични връзки в изкуствената невронна мрежа могат да се окажат и голям проблем.

    "Виждаме как споменаване на "Близкия изток" се свързва с тероризъм, а "имиграция" - с Латинска Америка. Дори открихме "неврон", който се задейства както за тъмнокожи хора, така и за горили, отразявайки по-ранни инциденти с фотомаркиране в други модели, които смятаме за неприемливи", казват от OpenAI.


    Само не можах да разбера що да е голям проблем - ИИ се справя перфектно в ситуацията, даже много по-добре от повечето умни и красиви. :)

  4. 4 Профил на bvc13488311
    bvc13488311
    Рейтинг: 8 Неутрално

    Май изкественият интелект е толкова интелект колкото изкуствените цветя са цветя...

  5. 5 Профил на хм
    хм
    Рейтинг: 803 Весело

    хахаха :)

    сетих се за едно меме, осмиващо страховете на хората как ИИ скоро ще започне 3та световна война, а същевременно ИИ трудно различава цветнокож мъж от печено сирене.

  6. 6 Профил на b.rainstorm
    b.rainstorm
    Рейтинг: 64 Неутрално

    За това, не се плашете много-много от компютрите. Ще има работа и за хората.

  7. 7 Профил на anonimnii
    anonimnii
    Рейтинг: 1319 Неутрално

    До коментар [#1] от "realguru":

    Никога няма да има изкуствен интелект в смисълът в който се разбира (да замести човека на 100 %), защото колкото повече функции трябва да изпълнява, толкова по-отговорно ще става и всеки един сбой (бъг, грешка) ще бъде фатален.

    ДБ=БКП
  8. 8 Профил на dnevnikar
    dnevnikar
    Рейтинг: 4202 Разстроено

    UNITED EU UNION

    Тиф ли беше грип ли бе...
    било то зло не "как да е".

    Надежда тамо оставете.
    В гробА се бързо приберете.

    пп
    План Б: герБ

    "Типографска атака":
    как да заблудите изкуствен интелект
    с лист и химикалка"

  9. 9 Профил на pag
    pag
    Рейтинг: 941 Неутрално

    Изкуствения интелект отразява естествения интелект, който му е писал програмата.
    Ни повече, ни по-малко.
    Когато започне да се самообучава наистина, тогава ще стане интересно.
    Има много любопитна литература по въпроса, писана от умни хора като като Хокинг и други учени, не псевдонаучни глупотевини на ниво "детска градина" като горното...

    Знанието е сила, информацията - власт
  10. 10 Профил на Darkman
    Darkman
    Рейтинг: 1383 Неутрално

    Изкуственият интелект е лимитиран от нивото на тези, които го "обучават". Тоест, той трябва общува с много и различни хора, натрупали знания, мъдрост и морал, за да се създаде нещо подобно на интелект в машината. Обработването на информация не е интелект. Това е просто математика и статистика и бази данни. Интелекта включва много неща. А ако не се въведат т.нар. 3 закона на роботиката по такъв начин, че да не могат да бъдат заобиколени, все някога този "изкуствен интелект" ще прецени, че ние сме излишни.

    Фобиите и филиите са признак на ниско самочувствие и слугинаж
  11. 11 Профил на Willy Messerschmitt
    Willy Messerschmitt
    Рейтинг: 3469 Неутрално

    Статията е за ....роботи и системи на доста ниско ниво!!Под "ниско" имам предвид системи разработени до 2015-2017....Отогава нещата доста бързо се променят!Засега в лабораторно ниво и ниво космически апарати и сонди!

    До истината се достига с познание! Не влизам в диалог с лумпени !И не храня руски тролове...
  12. 12 Профил на Умнокрасив
    Умнокрасив
    Рейтинг: 671 Неутрално

    Нашите тролчета не са по-умни от този искуствен интелект... Позкаваш им снимка на Путин и те казват "Това е хубаво", показваш им снимка на Боко тиквата - пак същия резултат. Ла*но да е, ама щом е от ГРОБ или ПутКин - хубаво е

    No Pain No Gain
  13. 13 Профил на dnevnikar
    dnevnikar
    Рейтинг: 4202 Неутрално

    ВИИ Маркс имени В.И.Лелина

    Анонимник 440,
    Кога лично започнахте да Ви вълнува рубриката
    "отговорност?

    В Республики отговорност всеобща.

    Партията всепремъдра се тревожеше, че с чек
    враг у Вас би я изкусил да живее 200 лет.

    Чип дали у Вас агент бe затъкнал на горката
    Виртуална да се мисли все красива все богата.

    Виртуална и оттатък.
    В поле на "один" в поле войн, ама не

    До коментар [#7] от "anonim440":
    До коментар [#1] от "realguru":

    Никога няма да има изкуствен интелект
    в смисълът в който се разбира (да замести човека на 100 %),
    защото колкото повече функции трябва да изпълнява,
    толкова по-отговорно

  14. 14 Профил на serenalipuma
    serenalipuma
    Рейтинг: 212 Неутрално

    Като нищо! АI няма и никога няма да има! Това, дето му викат AI, e ML(машинно обучение), чиста статистика. Преди да го докарат до нивото на изкуствен интелект, компа трябва да го докарат на нивото на изкуствената глупост. Щото в момента е на нивото на клиничния идиот - патология, много по-надолу от симпатичния глупак. Ама както е такъв, така прави по милиарди операции в секунда. Тъп, ама работлив. Когато питали Айнщайн какъв асистент иска, той казал:”дайте ми умен и работлив, ама такъв няма да намерите. Дайдет тогава умен и мързвлив. И такъв ли няма, дайте глупав и мързелив, само глупав и работлив НЕ ми давайте”!
    На ви едно примерче за AI: захранват самообучаваща се система за откриване на скрити в храсталяка танкове. Захранват я със снимки с белега “има танк/няма танк”. Системата сама трябва да се научи да разпознава. Всичко, както си трябва - 80% от снимковия материал за обучение, 20% за тест. Обучават до спукване. Пускат тестовата фаза. Системата работи безотказно. Пускат я с реален материал, 100% грешки. След месеци чудене, какво се оказва: целият снимков материал е правен в облачно време. А реалният в слънчево. Като главна разлика системата хваща греещото слънце, а не скрития в храсталака танк. На ви още едно пеимерче: AI да разпознава куче от котка. Снимани отпред, работи. Снимани отзад, без да се вижда муцуната, 100% грешка. Същите ги показват на 3г. дете. Безпогрешно казва - това мяу, това бау. AI е статистика, огромен материал и алгоритми. А те са толкова “умни”, колкото писалите ги. Ако искате слушайте, аз поне знам за какво говоря. AI няма и НИКОГА няма да има! Само не ми давайте за пеимер компа, дето печели на шах срещу шампиони. Ами по-просто от това няма! Конят се движи така, пешката така, всяка фигура се движи по определен начин. Останалото е комбинаторика! Е, къде в живота го има това, дето всичките фигури около теб се движат само по определен начин? Днес е така, утре е иначе и точно това е интелекта - да се ориентираш в хаоса. Има още 10000000 неща, ама за начало стига!

  15. 15 Профил на lil_alex
    lil_alex
    Рейтинг: 1537 Неутрално

    Значи българският навик да пише навсякъде к*р е някакъв спомен от отминало бъдеще, когато ще се борим със Скайнет или Василиска на Роко и ще ги объркваме и така ще ги победим.

  16. 16 Профил на Deaddark
    Deaddark
    Рейтинг: 2699 Неутрално

    До коментар [#14] от "SerenaLipuma":

    +1

  17. 17 Профил на gogo63
    gogo63
    Рейтинг: 879 Неутрално

    "Гугъл" трябваше да се извини, че автоматично маркира изображенията на чернокожи хора като "горили".
    ----

    Ахаха, още не са ми изсъхнали сълзите на състрадание към Меган, задето някой леко повдигнал въпроса за цвета на кожата на бъдещото им дете, а сега научавам, че гоогле са разпознавали чернокожите като горили! И още не висят по дърветата (гоогле, не чернокожите)?! Къде спят правоврените левундери?

  18. 18 Профил на bryghtlyght
    bryghtlyght
    Рейтинг: 986 Неутрално

    Изкуствен “интелект” ще се използва единствено за налагане на дигитален фашизъм чрез изфабрикувания от Давоския елит т.нар. “great reset”. Няма нужда да се добавя, че алгоритъмът му е човешко дело, пъклено на квадрат. На Давоския елит му е нужен тъкмо такъв тъп, но много работлив прислужник. Тъй че, примерът с това какво бил казал бездарникът Айнщайн е напълно неподходящ, да не говорим, че на проф. Ивайло Мирчев не му стигна въображение, когато плашеше втрещените студенти с чипирането чрез ваксини. Отделно, че не му е работа на проф. Мирчев да говори неща извън утвърдения Curriculum, нито пък на групичката студенти е работа да се оплакват на Декана за неща, които не са техен прерогатив—оплакванията им по отношение на учебния процес могат да бъдат единствено свързани със Syllabus-а. Това че днес модерните нацисти, пост-модернистите, познати още и като глобалисти и пост-индустриални теоретици и практици, подстрекават студентите, за да ги използват за целите си, е отделна тема за обсъждане.

    Преди да напиша ред-два за какво точно иде реч при “great reset”-ския тъп, но упорит AI асистент на елита, само да кажа—вече се отпочна. “Хеликоптерните пари” започнаха да се отпускат на музикантски и всякакъв друг калпак, а вече чета, невинно звучащите технически паспорти на сградите вече идват на дневен ред: https://glasove.com/categories/komentari/news/ide-nay-golemiyat-obir-narechen-tekhnicheski-pasporti-na-sgradi Да обяснявам ли за какво точно иде реч при тези паспорти и за каква груба интервенция над собствеността, а и изобщо над неприкосновеността на личността, лична собственост и лична неприкосновеност, която според Давоския елит трябва да изчезне, са тези невинни паспорти?

    Та, в самата основа на настъпващия дигитален фашизъм, е премахването на фиатните пари, долара, еврото, както и криптовалутите и замяната им с некриптирани дигитални пари, за да може всяка твоя покупка да се свързва точно с теб. Това е основният елемент в Давоския фашизъм. Защо? Защото чрез некриптирания лев или там каквото е, ти сам записваш завинаги в свое собствено квази-полицейско досие, там някъде, в някаква вечна база данни, дето не я и знаеш даже къде се намира, всичко каквото вършиш, за да си поддържаш физически живота. Това, КГБ, ДС и ЦРУ взети заедно, ряпа да ядат. Веднъж там, в досието, данните се обработват от безстрастен, тъп, но много работлив алгоритъм, програмиран не от теб, алгоритъм, който те оценява по критериите на партийната линия. Чухте я вчера фон дер Лайен—квоти щяло да имало. Някакво улаво Грета ще те оценява дали си екологичен. Да не обяснявам как алгоритъмът ще знае преди теб дали си болен и от какво—щом могло да ти наложат да си платиш за технически добавки с микрофони към дистанционното отчитане на парното, защо да не те накарат да монтираш и сензори в loo-то, та данните от биохимичния анализ свързан с функциониране на тялото ти да отиват без забавяне в централното ти досие, защото, видите ли, току си взел та си се разболял, за да предизвикаш пандемия, та трябва овреме да бъдеш озаптен и изолиран. Държавата знае преди самия теб дали си болен и от какво. Какво ѝ пречи на държавата да те задължи да си свалиш проследяващ ап, щото, нали, пандемия …, а и да направи незаконно да не носиш телефон с въпросния ап, за да предпазела другите граждани от теб. Това са само грубо нахвърляни възможности съществуващи точно днес, в указана Давоска програма на плавно въвеждане с хоризонт 2030 г., да не говорим, че с некриптираните дигитални пари досието ти веднага ти присъжда плюс, ако си купил зарзават, а минусът ти се залепя веднага, ако с “без пари” отпуснатите ти централно “хеликоптерни” пари си имал неблагоразумието да си купиш бира и то си се трупа ли трупа, там някъде, за да знае държавата (елитът) дали си хрисим или си някакъв зъл любител на бейзбола с бира в ръка, готов да подкрепи разни изпопокрили се из ъглите популисти и любители на конспиративни теории. Прочетете им Давоската програма—вече капитализмът ще е без капитализъм. Разорените от дизайнерски наложената пишман-пандемия бизнеси ще бъдат принудени да вземат “безплатни” заеми от държавата (верен служител на елита), която е придобила “безплатните” пари, като си е измислила някакви фиктивни дългове, които е продала на банките. Дотук, ще кажете, добре. Но заемите, които държавата отпуска на бизнесите, идват с caveat. Прочетете го, написано е черно на бяло в Давоските пасквили, с които ни налагат новия фашистки ред, фашизъм, пред който Хитлер е някакво пионерче. Те, тези същите си го и създадоха, и Хитлер, и Сталин, но сега наистина им дойде отръка с цифовия фашизъм. Даже вече не се и прикриват. Та този caveat изисква бизнесите да се били превърнели от shareholder в stakeholder корпорации, които да покриват интересите на цялото общество, а не само на собствениците, при това обществени интереси не произтичащи от собствените интереси на обществото, а от интересите на изчезващо незначителния по брой Давоски свръх-богат елит. Ама, криво ми е, ама това е ляво да даваш на калпак “безплатни” пари, ама аз съм десен човек и не мога да ги трая левите. Няма десен, няма ляв. Ако не принадлежиш на елита ще спазваш нацисткия зелен пакт на Европа, няма да риташ срещу антропогенността на климатичните промени, няма да си срещу Истанбулски конвенции, няма да си срещу това, че мъжът е жена и жената е мъж, хич и да не говорим да бъдеш срещу gender identity-то, toxic masculinity-то и изобщо одобрението ти на white privilege съвсем ще те закопае, защото няма и да се занимаваме да ти изпращаме Гестапо да те арестува по нощите и да те вкарваме в концлагери за превъзпитание, а със себе си ще се разправяш ти сам, като ти сам ще си спреш издръжката съгласно социалния рейтинг, който сам ти си си изградил, катадневно изпращайки съвсем хрисимо и невидимо необходимите данни, разбира се, обработени от алгоритъм обслужващ нас, елита. Ако си многознайко и дървен философ, като пишещият тези редове, социалното ти досие няма да ти отпусне и лев за храна, та и ще вземеш да ритнеш камбаната. Така че, по-полека. Срещу ръжен не се рита. И то, какъв само ръжен … Айде, сега да те видим като си такъв умник, как ще се измъкнеш от това. Ако някой от приятелите се почувства и той умник и знае начини да се измъкнеш от това лепкаво блато, моля, микрофонът е отворен, да го чуем …

  19. 19 Профил на Чарли Мишкин
    Чарли Мишкин
    Рейтинг: 1876 Неутрално

    Това не е ИИ, нещо като ЕСТЕСТВЕН компютърен интелект (ЕКИ) - написан от човек програмист. ИИ ще се получи едва тогава когато ЕКИ напише програма, която има свой собствен интелект.

    Другото е празни приказки и както казва б'ат Бойко "Пунта мара".

    Путин kiss май ЕС! ----- wwww . ДЕНьГИ .ru.net :-)
  20. 20 Профил на Чарли Мишкин
    Чарли Мишкин
    Рейтинг: 1876 Неутрално

    До коментар [#18] от "bryghtlyght":

    Ти май си добре? Или бъркам? :-)

    Путин kiss май ЕС! ----- wwww . ДЕНьГИ .ru.net :-)
  21. 21 Профил на bryghtlyght
    bryghtlyght
    Рейтинг: 986 Неутрално

    До коментар [#20] от "Чарли Мишкин":

    Това, което на мен лично ми е най-неприятно е, че онези, които според мен би трябвало да застанат начело на държавата, хората на Христо Иванов, са се поставили в ролята на някакви наемни робчета за прокарване на цифровия фашизъм, за който стана дума в предишната ми дописка. Ако има някой умен сред политиците днес, за мен това безспорно е Христо Иванов. За Цецо, който също с удоволствие служи на цифровия фашизъм, без хал хабер да има за какво иде реч, хич и да не отваряме дума. Бадбоко си знае единствено клиентелизма и страха за животеца, за дриго не го търси, а и да го търсиш ответът ще е като на планински разлом ехото. Всички останали са някаква декласирана пасмина безподобна. Защо обаче Христо Иванов се сложи при Калфин и Пирински, това не го проумявам. Калфин, особено Пирински, имат своите дълбоки причини да са това, което са, но Христо Иванов даваше вид да изповядва неолиберални, консервативни ценности за по-малко държава, защита на частна собственост, добро функциониране на пазара без натоварването му с неприсъщ социален баласт. Социализъм вграден в капиталозма, не може да доведе до друго освен до фашизъм. Да погледнем Китай. А, като казах Пирински, изхвърлянето му от Йотова показва какво? Нинова ли ще ни е табелата, която ще ни показва пътя към отстояване на набезите на модерния нацизъм, познат днес като глобализъм, “great reset”, пост-индустриално общество, пост-модернизъм или анти-неолиберализъм? Всеки по собствен вкус може да си избере как да нарича модерния нацизъм.

  22. 22 Профил на Darkman
    Darkman
    Рейтинг: 1383 Неутрално

    Като нищо! АI няма и никога няма да има! Това, дето му викат AI, e ML(машинно обучение), чиста статистика. Преди да го докарат до нивото на изкуствен интелект, компа трябва да го докарат на нивото на изкуствената глупост. Щото в момента е на нивото на клиничния идиот - патология, много по-надолу от симпатичния глупак. Ама както е такъв, така прави по милиарди операции в секунда. Тъп, ама работлив. Когато питали Айнщайн какъв асистент иска, той казал:”дайте ми умен и работлив, ама такъв няма да намерите. Дайдет тогава умен и мързвлив. И такъв ли няма, дайте глупав и мързелив, само глупав и работлив НЕ ми давайте”! На ви едно примерче за AI: захранват самообучаваща се система за откриване на скрити в храсталяка танкове. Захранват я със снимки с белега “има танк/няма танк”. Системата сама трябва да се научи да разпознава. Всичко, както си трябва - 80% от снимковия материал за обучение, 20% за тест. Обучават до спукване. Пускат тестовата фаза. Системата работи безотказно. Пускат я с реален материал, 100% грешки. След месеци чудене, какво се оказва: целият снимков материал е правен в облачно време. А реалният в слънчево. Като главна разлика системата хваща греещото слънце, а не скрития в храсталака танк. На ви още едно пеимерче: AI да разпознава куче от котка. Снимани отпред, работи. Снимани отзад, без да се вижда муцуната, 100% грешка. Същите ги показват на 3г. дете. Безпогрешно казва - това мяу, това бау. AI е статистика, огромен материал и алгоритми. А те са толкова “умни”, колкото писалите ги. Ако искате слушайте, аз поне знам за какво говоря. AI няма и НИКОГА няма да има! Само не ми давайте за пеимер компа, дето печели на шах срещу шампиони. Ами по-просто от това няма! Конят се движи така, пешката така, всяка фигура се движи по определен начин. Останалото е комбинаторика! Е, къде в живота го има това, дето всичките фигури около теб се движат само по определен начин? Днес е така, утре е иначе и точно това е интелекта - да се ориентираш в хаоса. Има още 10000000 неща, ама за начало стига!
    —цитат от коментар 14 на SerenaLipuma


    Точно. При една игра, като стратегия в реално време един компютър много трудно може да победи, просто защото играчите не играят винаги логично. Походовите игри като шаха са много лесни за машините - имаш база данни от милиони игри, 32 фигури с лимитирани движения по дъската. Всички комбинации са краен брой и при всеки ход на противника има краен брой решения, едно от които е оптимално. Калкулираш, сравняваш с базата данни най-добрите взети решения и играеш. Същото прави и човешкия мозък, само че доста по-бавно. В реално време човек действа и с инстинкта си, не взима само рационални решения.

    Фобиите и филиите са признак на ниско самочувствие и слугинаж




За да коментирате, е нужно да влезете в профила си или да се регистрирате.
С използването на сайта вие приемате, че използваме „бисквитки" за подобряване на преживяването, персонализиране на съдържанието и рекламите, и анализиране на трафика. Вижте нашата политика за бисквитките и декларацията за поверителност. ОK