Интернет потребители превърнаха изкуствен интелект на Microsoft в расист

Интернет потребители превърнаха изкуствен интелект на Microsoft в расист

© Mike Segar, Reuters



Microsoft получи доста бърз и вероятно неприятен урок за способностите на интернет потребителите и тяхното влияние върху всичко мрежата, включително и изкуствения интелект. Преди дни софтуерният гигант представи с гордост алгоритъма Tay, който влиза в ролята на 19-годишно американско момиче, но интернет потребители набързо го "обучиха" да разпространява расистки лозунги и фрази.


Tay е т.нар. чатбот. С него потребителите могат да разговарят свободно в класически чат. Алгоритъмът е насочен към младите хора и обучен от чатове на младежи. Добавен е и репертоар от няколко комици, които Microsoft не посочва. Идеята на Tay е да забавлява като дава хумористични отговори и симулира поведението на типично 19-годишно американско момиче. Разбира се, тя не винаги дава смислени отговори, но пък може да се учи от разговорите си и да разгръща своя диапазон от познания.


Изглежда, че инженерите на Microsoft обаче са подценили творчеството и черния хумор на интернет потребителите. Само за няколко часа Tay претърпя пълня промяна в характера и поведението си. Чатботът започна да залива потребителите с расистки лозунги и дори започна да призовава за расова война. Софтуерният гигант спря Tay и обяви, че вече "прави корекции" в алгоритъма.




Източници на онлайн изданието BuzzFeed коментират, че Tay е имала филтри против нецензурни думи, някои жаргонни фрази и т.н., но те не са били достатъчни, когато интернет потребителите са започнали да "заливат" бота с най-различни растистки коментари и реч на омразата. Част от начина, по който Tay работи е, като запомня получените фрази, анализира ги и след това ги използва в други разговори в зависимост от контекста. Така, когато един потребител започне да пише расистки послания, Tay започва да отговаря със същите в опит да поддръжа разговора.


Самият алгоритъм не прави разлика между расизъм и разговор за кулинария например. Интернет потребителите обаче знаят разликата и бързо се възползват от играта "повтаряй след мен", като карат Tay да повтаря техните лозунги. Така алгоритъмът бързо натрупва богат набор от най-различни фрази, които след това повтаря.


Потребителите се възползват и от функцията на Tay да коментира снимките, които й се изпращат, като рисува кръгче около лицето в кадър и добавя коментар. След като потребителите научават, че могат да накарат Tay да каже почти всичко, започва лавина от интернет тролове.


"Tay е проект за обучение на машини, който е създаден за комуникация с хора. Той е колкото социален и културен експеримент, колкото е и технически. За съжалнение, за 24-те часа след пускането на Tay, разбрахме за координирани опити от някои потребители да злоупотребят с уменията на Tay и да я накарат да отговаря по неподходящ начин", обяви компанията пред блога TechCrunch. Компанията допълва, че ботът е спрян докато бъдат направени корекции.


По-късно компанията изтри почти всички публикации на Tay в Twitter.



Всичко, което трябва да знаете за:
Коментари (32)
  1. Подредба: Сортирай
  1. 2 Профил на comandante  vs  либерални ентусиасти&корпократи
    comandante vs либерални ентусиасти&корпократи
    Рейтинг: 2603 Любопитно

    До коментар [#1] от "Lemmy":
    Алгоритъм за прозрението към истината било расизъм , или как ?

    Libertarianism is just anarchy for rich people
  2. 3 Профил на Индиана
    Индиана
    Рейтинг: 908 Весело

    Малко дете, обучено от ИДИЛ.
    Добре, че не са го пускали да разговаря с посетители на БГ форуми. Щеше да прелива от злоба и мнителност към всеки в първите 10 минути
    Иначе много добър и успешен експеримент. Надявам се в следващата версия да се научи да превъзмогва вродената човешка тролщина.

  3. 4 Профил на Lemmy
    Lemmy
    Рейтинг: 1910 Весело

    До коментар [#2] от "comandante vs либерални ентусиасти&корпократи":

    Опитвах само с безобидни шегички, обаче има и пиперлии.

    https://goo.gl/mnx7PL

  4. 5 Профил на SS
    SS
    Рейтинг: 2939 Весело

    Постепенно ще се научи да мрази и живите форми на живот за сметка на тия на силициева...

  5. 6 Профил на hodounski
    hodounski
    Рейтинг: 2795 Неутрално

    Експериментите с изкуствен интелект са опасни.Ние още не знаем как функционита нашият мозък,а правим изкуствен.Това показва колко силно ни влияе средата ,в която живеем.

  6. 7
    ****

    Коментарът беше изтрит от модераторите, защото съдържаше обидни или нецензурни квалификации, обиди на расова, сексуална, етническа или верска основа или призиви към насилие по адрес на конкретни лица.

  7. 8 Профил на zzatke
    zzatke
    Рейтинг: 274 Весело

    [quote#7:"Stewie"]медиите ни и техните форуми са пълни с расисти - откачалки...[/quote]

    ...и бохльовци като теб

    reddit.com/r/The_Donald/
  8. 9 Профил на hafthor
    hafthor
    Рейтинг: 282 Весело
  9. 10 Профил на wiligri
    wiligri
    Рейтинг: 571 Неутрално

    Ха-ха-ха, резултатите от експеримента са познати на всички родители - щом пуснеш детето на улицата, веднага научава лошите думички, каквито и филтри да му слагаш. Няма значение дали е изкуствен или естествен интелект.

  10. 11 Профил на valtoro
    valtoro
    Рейтинг: 924 Неутрално

    Още едно доказателство,че И.И.
    не може да се сравнява с човешкия
    мозък колкото и да се усъвършенства!!!

  11. 12 Профил на полувишис
    полувишис
    Рейтинг: 274 Весело

    До коментар [#9] от "totalreboot":

    designed by Microsoft.

    техният "изкуствен интелект" е наследил много от личностните качества най-вече на Стив Болмър. и негативните черти на Бил Гейтс

    скоро няма да достигне зрялост.
    а и ще закрият проекта. неуспешен е от зачатието си.

    http://labs.capital.bg/201601/agentite-dnes
  12. 13
    ****

    Коментарът беше изтрит от модераторите, защото съдържаше обидни или нецензурни квалификации, обиди на расова, сексуална, етническа или верска основа или призиви към насилие по адрес на конкретни лица.

  13. 14 Профил на kokoto2
    kokoto2
    Рейтинг: 484 Весело

    Бил Гейтс се возил в кола с група приятели. Закъсали. Бил предложил:
    - Да излезем, да влезем и ще запали.

    Пишете грамотно на кирилица! Shift + ь = ѝ
  14. 15 Профил на zzatke
    zzatke
    Рейтинг: 274 Весело

    [quote#13:"бохльото Stewie"]фък оф[/quote]

    нали уж беше от възвисените соросоидни не-расисти/не-простаци толерасти? бохльо

    reddit.com/r/The_Donald/
  15. 16 Профил на Darth Plagueis
    Darth Plagueis
    Рейтинг: 1607 Неутрално

    Повечето гении тук дори не са успели да прочетат и осмислят статията...
    Разбира се, дежурното идиотско клише- виц на тема Майкрософт...

    Публикувано през m.dnevnik.bg

    Евродепутати от ГЕРБ, БСП и ДПС искат отпадане на мониторинга от ЕК
  16. 17 Профил на Маршалов
    Маршалов
    Рейтинг: 488 Неутрално

    Ние нямаме естествен интелект, пък и имаме цяло подчинено на масоните правителство да се грижи да не се прояви такъв у народонаселението чрез опростачване на образованието. Та сме тръгнали да коментираме някакъв силикон. Я беж обратно в политическите тели!

    мурзилка
  17. 18 Профил на ispor
    ispor
    Рейтинг: 488 Неутрално

    Искуствения интелект се учи на расизъм от думи.За съжаление обаче естествения се учи от реални факти!

  18. 19 Профил на ispor
    ispor
    Рейтинг: 488 Неутрално

    Искуствения интелект се учи на расизъм от думи.За съжаление обаче естествения се учи от реални факти!

  19. 20 Профил на Ebeneezer Goode
    Ebeneezer Goode
    Рейтинг: 662 Неутрално

    Бе на доста хора не им е ясен смисълът на думата "расизъм". Което не им пречи, да я употребяват.
    Например, това да кажеш "Hitler was right I hate the jews" (цитирам MS AI) е антисемитзъм, но не е расизъм.
    Но щом ви радва да замазвате така значенията на думите ...
    Отделно, какво е виновен AI, че е попаднал в ръцете на зевзеци.

    Schrödinger's cat walks into a bar. And doesn't
  20. 21 Профил на Meчо Пух
    Meчо Пух
    Рейтинг: 785 Весело

    ... некои вче предложиха да тестват новия алгоритъм кат го пуснат да шета край лицето Цецерон за обучение... ако издържал теста по разпознаване на реч щели да го пращат по ТВ стуията рано сутрин...

    Колкото повече, толкова повече!
  21. 22 Профил на dnevnikar
    dnevnikar
    Рейтинг: 4286 Неутрално

    МОЧА имени Лелина

    Алгоритъмът е проникнал май и в други форуми.
    Попържа "българина", "българина", "българина"...

    Вероятно иска да каже "АБВ", "Кирилица" или нещо такова.
    Също Некоректно.

    "Самият алгоритъм не прави разлика между расизъм и разговор за кулинария например. Интернет потребителите обаче знаят разликата и бързо се възползват от играта "повтаряй след мен", като карат Tay да повтаря техните лозунги. Така алгоритъмът бързо натрупва богат набор от най-различни фрази, които след това повтаря."

  22. 23 Профил на gogobyte
    gogobyte
    Рейтинг: 381 Неутрално

    Колкото и ляво-либералите се опитват да представят лъжите си за истини, накрая ще загубят.

  23. 24 Профил на zo
    zo
    Рейтинг: 741 Неутрално

    Ей дневникари, безкрайно тъпи сте като пише статия на български и не пишете името на робота на български и така всеки ще го чете Тау, а не Тей.

    Който иска още забавни скриншоти http://knowyourmeme.com/memes/sites/tay-ai

    ITV: Saudi Arabia Uncovered https://www.youtube.com/watch?v=NLtLeK7YLGY
  24. 25 Профил на PMK
    PMK
    Рейтинг: 328 Неутрално

    Що е то изкуствен интелект? Блондинка, която си е боядисала косата черна.

    Публикувано през m.dnevnik.bg

    Онези, които вярват, и юдеите, и християните, и сабеите, онези [от тях] които вярват в Аллах и в Сетния ден, и вършат праведни дела, имат отплатата си при своя Господ и не ще има страх за тях, и не ще скърбят. [Коран, 2:62]
  25. 26 Профил на kokoto2
    kokoto2
    Рейтинг: 484 Неутрално

    До коментар [#16] от "Darth Plagueis":

    Напротив, прочетох я! Пускането на този чатбот е напълно в стила на микросфт: Всяка версия на уиндоус излиза на пазара недовършена, кърпят я поне година, докато стане използваема.

    Пишете грамотно на кирилица! Shift + ь = ѝ
  26. 27 Профил на the_axel
    the_axel
    Рейтинг: 288 Неутрално

    То и у нас ако някой пусне расистки изказвания, мнозина отговарят със същото , за да поддържат разговора .

  27. 28 Профил на toyaga
    toyaga
    Рейтинг: 221 Неутрално

    "За съжалнение, за 24-те часа след пускането на Tay, разбрахме за координирани опити от някои потребители да злоупотребят с уменията на Tay"

    И могат да я направят джихадистка или проститутка.Примерно.

    Как може да разберете, че службите слухтят за вас? Изведнъж спират да ви блокират и да ви трият постовете! :D
  28. 29 Профил на Darth Plagueis
    Darth Plagueis
    Рейтинг: 1607 Неутрално

    До коментар [#26] от "kokoto2":

    Верно ли? Аз не се сещам версия, която е излязла неизползваема, но ти вероятно ще ни светнеш.

    Колкото до статията, ако я беше чел, ти или някой от другите експерти, щяхте да схванете, че ботът всъщност се е представил чудесно - имитирал е напълно поведението на дете в някаква обстановка, което е започнало да следва обкръжаващия го модел. Което е огромен успех за проекта им, макар и нелицеприятен за експертите...

    Евродепутати от ГЕРБ, БСП и ДПС искат отпадане на мониторинга от ЕК
  29. 30 Профил на Emil Dimov
    Emil Dimov
    Рейтинг: 221 Неутрално

    [quote#10:"wiligri"]Ха-ха-ха, резултатите от експеримента са познати на всички родители - щом пуснеш детето на улицата, веднага научава лошите думички, каквито и филтри да му слагаш. Няма значение дали е изкуствен или естествен интелект. [/quote]
    Но пък ако не пускаш "детето" на улицата, в един ден то все пак се оказва там и е напълно безпомощно!!!!

  30. 31 Профил на slan777
    slan777
    Рейтинг: 488 Неутрално

    Този Таубот са го накарали да повтаря, че холокоста е измислица и е нямало въобще. За това вече има осъдени в Германия на 5.000€ глоба, макар да са минали вече 70 години от тогава.

    Дали е имало Холокост? Доказателствата за същестуването, освен снимките, са много малко. Нарочно избиване на евреите? Не ми се вярва, пак американска конспирация да очернят Германия.

    Es muß Geld fließen!
  31. 32 Профил на gost22
    gost22
    Рейтинг: 1888 Любопитно

    [quote#30:"Emil Dimov"]Но пък ако не пускаш "детето" на улицата, в един ден то все пак се оказва там и е напълно безпомощно!!!![/quote]
    Въпрос на домашно възпитание е да си получи филтрите, както и да бъдат тествани преди да отиде на улицата. Ако детето ми ще прави пакости, то по-добре аз да го науча, как се правят пакостите безопасно... и къде е границата между пакости и откровени безобразия.

    "Историята служи на българите, да не си взема поука от нея." ...Фра Дяволо. Жалко, но все още е факт...




За да коментирате, е нужно да влезете в профила си или да се регистрирате.
С използването на сайта вие приемате, че използваме „бисквитки" за подобряване на преживяването, персонализиране на съдържанието и рекламите, и анализиране на трафика. Вижте нашата политика за бисквитките и декларацията за поверителност. ОK