Алгоритъм на "Туитър" предпочита млади, слаби и по-светли лица

Представянето на резултатите от състезанието

Представянето на резултатите от състезанието



Алгоритъмът, с който "Туитър" помага за изрязването на снимки, предпочита по-млади и по-слаби лица на хора с по-светъл цвят на кожата. Това откри студент, спечелил първото в историята на компанията състезание за "откриване на бъгове".


Богдан Кулиних, студент в швейцарския университет EFPL, е получил своите 3500 долара, обещани като награда в състезанието, пише "Гаридън".


Кулиних обяснява, че е изкуствено е създал лица с различни черти, за да изпробва как работи алгоритъма за изрязване на изображения и да види върху кои от тях се фокусира. Някои то създадените лица са почти идентични, но с разлики в цвета на кожата, пола, широчината или възрастта.




Резултатът сочи, че по-светлите, слабите и младите лица получават по-голям интерес от тази функция на "Туитър", от по-старите, по-широките и по-тъмните.


Алгоритъм на "Туитър" предпочита млади, слаби и по-светли лица

© GitHub


Екипът на платформата се е извинявал при публикации за предразсъдъци, заложени в алгоритмите ѝ, включително за изследвания от Кулиних. При предишни критики към него компанията първоначално заяви, че не е открила проблем, а по-късно, че има много слабо предпочитание към бели и женски лица. Тъкмо заради този случай "Туитър" обяви състезанието.


В "Туитър" обаче Кулиних обясни, че голяма част от технологиите са вредни не заради единични инциденти, а защото подобна вреда е заложена в тях в търсене на "максимизация на ангажимента" на потребителите и печалбата, а накрая друг плаща цената. Според него ще е много по-добре за всички, ако подобни състезания за откриване на бъгове в алгоримите станат редовни и популярни като състезанията за бъгове в сигурността.


Представяйки работата си по състезанието, той отбелязва, че тези предпочитания в алгоритмите буквално изрязват "онези, които не отговарят на предпочитанията на алгоритмите за тегло, възраст, цвят на кожата".


При представянето на резултатите "Туитър" обясни, че работата на студента "показва как алгоритмичните модели усилват предразсъдъците от истинския живот и обществените очаквания за красота".

Ключови думи към статията:

Коментари (44)
  1. Подредба: Сортирай
  1. 1 Профил на venci4
    venci4
    Рейтинг: 1520 Неутрално

    Расисти!!

    Платени форумни тролчета, така ли ви възпитават на Позитано? http://prikachi.com/images/793/8000793h.jpg
  2. 2 Профил на meteowrite
    meteowrite
    Рейтинг: 876 Весело

    Ох, безразборно препечатвате статии значи...

    You don't know what you don't know.
  3. 3 Профил на spiegel
    spiegel
    Рейтинг: 1744 Неутрално

    Ауууу, расизъм, ейджизъм и тлъстизъм!

  4. 4 Профил на Мусаши
    Мусаши
    Рейтинг: 1826 Неутрално

    Ужас. Вместо да предпочита дебели и черни лица.

  5. 5 Профил на xm...
    xm...
    Рейтинг: 3472 Весело

    Ох, безразборно препечатвате статии значи...
    —цитат от коментар 2 на meteowrite


    Оооо, напротив, напротив!

    Яко се подбира плънката за Пропагандата на Правата линия!

    А и требе да се яде, да се яде трябва!

  6. 6 Профил на Шоршо
    Шоршо
    Рейтинг: 1083 Весело

    И аз такива предпочитам.

  7. 7 Профил на nodamncat
    nodamncat
    Рейтинг: 542 Неутрално
  8. 8 Профил на kazushi
    kazushi
    Рейтинг: 683 Весело

    Даже изкуствения интелект иска по-светли хора.

  9. 9 Профил на meteowrite
    meteowrite
    Рейтинг: 876 Неутрално

    [quote#5:"xm..."][/quote]

    да да, усетих се че не го написах правилно.
    Имах предвид, че не подбират написаното в Гардиън, ЦНН, WSJ, и тн.

    You don't know what you don't know.
  10. 10 Профил на realguru
    realguru
    Рейтинг: 2755 Неутрално

    Че те и черните гледат нещо бяло да забършат :)

  11. 11 Профил на buljubei
    buljubei
    Рейтинг: 526 Неутрално

    Добре бе дагоба
    Какво толкова е станало?
    Все едно дебелите чернокожи ще ги пращат в концлагери, баси.

    А на мен ми се струва, че има голямо значение какъв е контраста с фона.

    Аман от идиотщини.
    Начи и изкуствения интелект се оказа расист?

  12. 12 Профил на chepokalipsis
    chepokalipsis
    Рейтинг: 870 Неутрално

    Преди време един ревеше, че ромбите не работели на черни килими...

  13. 13 Профил на realguru
    realguru
    Рейтинг: 2755 Неутрално

    Добре бе дагобаКакво толкова е станало?Все едно дебелите чернокожи ще ги пращат в концлагери, баси.А на мен ми се струва, че има голямо значение какъв е контраста с фона.Аман от идиотщини.Начи и изкуствения интелект се оказа расист?
    —цитат от коментар 11 на buljubei


    Изкуствения интелект е расист свиквай :)

  14. 14 Профил на Alex Ivanov
    Alex Ivanov
    Рейтинг: 2628 Неутрално

    Параноята във всичко да се търси расизъм срещу черните взима апокалиптични размери на запад. Това е просто тотално пресолване на манджата.

  15. 15 Профил на sylvester
    sylvester
    Рейтинг: 525 Неутрално

    Значи да сумираме - Туитър дават награда, ако някой открие недостатък на алгоритмите им. Талантлив програмист открива недостатък и Туитър, показвам им изследването и доказателствата и те го награждава с 3500 долара. Реакцията на коментиращите в този форум?
    "...Параноята във всичко да се търси расизъм срещу черните взима апокалиптични размери..."
    "...Какво толкова е станало?Все едно дебелите чернокожи ще ги пращат в концлагери, баси..."
    "Яко се подбира плънката за Пропагандата на Правата линия!..."

    Това го извадих от първите няколко, убеден съм че така ще продължи и нататък. Има ли шанс да се открие бъга и в тези системи? А дано, ама надали...

  16. 16 Профил на itwasalladream
    itwasalladream
    Рейтинг: 587 Неутрално

    Туитър е расист значи, веднага да се самоизтрие, не става просто с извинения. Колко ли мъка са преживели онеправданите потребители с по-тъмни и дебели лица... Нищо не може да се сравни с преживелиците на американските цветнокожи, от сутрешната закуска с бели яйца до системния расизъм при прибирането на социалки и доброволното лентяйство из расистките улици, където ченгетата имат наглостта да те преследват, ако крадеш, пребиваш и/ или продаваш наркотици.

    Не, сериозно, тамошните субекти с "несветъл" цвят на кожата така са качили на влакчето всичко възможно, от което могат да изцицат нещо посредством расистката карта, че новините вече звучат като от сатиричен сайт. Джънк фууд индустрията също си създаде НПО-та, за да вкара fat shaming-а и всичко е ток. :))

  17. 17 Профил на xm...
    xm...
    Рейтинг: 3472 Весело

    До коментар [#15] от "sylvester":
    Преди да търсиш бъга в чуждото око - виж този в собственото си.

    Нима студентът случайно се е насочил към точно такъв експеримент, за да търси бъг?
    Вие експеримент залагали ли сте и дали знаете, че експериментът се формулира изхождайки от хипотеза?
    Защо пък се е прихласнал по "цвета и формата", а не по интензитета, контраста и работата на програмата с кривите?

    И ако внимавахте в текста, а не си "чешехте бъга", бихте видели, че Туитър в изявлението си също се фиксира върху "расисткия" аспект!

  18. 18
    ****

    Коментарът беше изтрит от модераторите, защото съдържаше обидни или нецензурни квалификации, обиди на расова, сексуална, етническа или верска основа или призиви към насилие по адрес на конкретни лица.

  19. 19 Профил на Николай Теллалов
    Николай Теллалов
    Рейтинг: 3091 Неутрално

    До коментар [#15] от "sylvester":

    +

    властта ражда паразити! в това съобщение се съдържат всички нарушения на правилата за писане на коментари, каквито модераторите могат да си изхалюцинират
  20. 20 Профил на petrow1973
    petrow1973
    Рейтинг: 1876 Разстроено

    Параноята във всичко да се търси расизъм срещу черните взима апокалиптични размери на запад. Това е просто тотално пресолване на манджата.
    —цитат от коментар 14 на Alex Ivanov


    Кварцова лампа във всяка къща в Европа. Задължително, всеки ден по 5 минути облъчване, до постигане на задоволителен загар според BLM

    За умрелите - или добро или нищо За живите - само критика или нищо няма да свършат:)
  21. 21 Профил на Ментор
    Ментор
    Рейтинг: 1377 Неутрално

    ми то и аз предпочитам такива лица, ся кво праим?

    Раздухването на подобни "новини" е абсолютна глупост. Това нещо се нарича "бъг", и по света всеки ден се откриват милиони такива. И се създават горе-долу толкова нови.

  22. 22 Профил на itwasalladream
    itwasalladream
    Рейтинг: 587 Неутрално

    ми то и аз предпочитам такива лица, ся кво праим?Раздухването на подобни "новини" е абсолютна глупост. Това нещо се нарича "бъг", и по света всеки ден се откриват милиони такива. И се създават горе-долу толкова нови.
    —цитат от коментар 21 на Ментор


    Американските медии са покорили нови низини и не просто раздухват, а умишлено търсят и дори създават подобни новини. Навярно ако обходиш днешния новинарски поток, ще намериш поне още 5-6 подобни. Джо може да е слийпи, но демократите зад него не са. :)

  23. 23 Профил на it4
    it4
    Рейтинг: 511 Неутрално

    сега да не идат в другата крайност - черни, дебели и без образование, т.е. нашите цигани...

  24. 24 Профил на Тангра
    Тангра
    Рейтинг: 1848 Любопитно

    Трябва да направят функционалност, потребителят да си избира колко широки лица иска и с каква отсенка на черното ги иска.
    И всичко ще е точно.
    Класическо равенство и равнопоставеност.

  25. 25 Профил на Тангра
    Тангра
    Рейтинг: 1848 Любопитно


    Чер космат Ганя булгар булгар отиде у ряката....
    —цитат от коментар 18 на Ганьо обичъ Модератора заща Модератора блокира Ганя


    Кое те кара да мислиш, че Булгар пише на левичарски медии като Туитър!?

  26. 26 Профил на Тангра
    Тангра
    Рейтинг: 1848 Любопитно

    Кварцова лампа във всяка къща в Европа. Задължително, всеки ден по 5 минути облъчване, до постигане на задоволителен загар според BLM
    —цитат от коментар 20 на petrow1973


    И кофичка вакса ще свърши работа.
    Не знам за задължителното уширяване, обаче.
    Ще трябва да въведат задължително Дънкин Донъс и Макдонълдс за всички хора по Земята.
    Така всички ще сме еднакво широки и няма да има притеснени и угнетени.
    И ще настане такъв живот, че само си викам "Данооооооооо"

  27. 27 Профил на gl
    gl
    Рейтинг: 466 Неутрално

    Добре написан софтуер, евала

  28. 28 Профил на Св. влкмч.Тамихнет Вагнеревич
    Св. влкмч.Тамихнет Вагнеревич
    Рейтинг: 1572 Неутрално

    Немедленно сорс кода на агоритъма да се извини публично, а после да заминава на ешафода

    15.02.1989 - 07.02.2018
  29. 29 Профил на nebido
    nebido
    Рейтинг: 842 Неутрално

    Параноята във всичко да се търси расизъм срещу черните взима апокалиптични размери на запад. Това е просто тотално пресолване на манджата.
    —цитат от коментар 14 на Alex Ivanov


    Пробват докъде могат да натегнат махалото.

    Но рано или късно ще се отплесне.

    И тогава ще има голямо вайкане.

  30. 30 Профил на Тангра
    Тангра
    Рейтинг: 1848 Разстроено

    [quote#29:"nebido"][/quote]

    Не вярвам. Белият човек е смачкан.
    Само в източна и южна Европа има адекватни хора, но не вярвам да стигнат за промяна.
    Може би само в нашите държави, да. Но северозападна Европа и САЩ са като пилета в кланница.
    Като минат още 10-20г и хЕптен се сменят поколенията и ценностите, хептен не се раждат деца, жените да не искат да се женят, а новите мъже да са мекофили, тогава съвсем няма да има кой да опонира и да се противопостави.
    Всички (почти), които се усещаме традиционни бели мъже сме вече на сериозна възраст. След 20 години, още повече. Просто няма да има кой да се бори.
    Случвало се и ще се случва в историята на природата, а и на човешката цивилизация. Не един и два вида, не една и две култури са се замозатривали от презадоволеност, глупост и чист нихилизъм.

  31. 31 Профил на Kosta Delev
    Kosta Delev
    Рейтинг: 936 Неутрално

    Абсолютно (математически) предвидимо - за да се определят добре контурите на лицето, е необходимо колкото е възможно по-рязка граница между косата (обикновено тъмна или във всеки случай с доста по-тъмен нюанс от кожата на лицето) и врата (където от осветяването обичайно има сянка.

    И аз да съм алгоритъм, и на мен ще ми е по-лесно така да си върша работата. Никакъв расизъм - проста оптическа логика.

  32. 32 Профил на Мусаши
    Мусаши
    Рейтинг: 1826 Неутрално

    [quote#18:"Ганьо обичъ Модератора заща Модератора блокира Ганя"][/quote]

    За тоя ,който те гледа в огледалото ли говориш?Щото българите са бели.
    А за космати-всеки мъж е космат.Само такива като се обезкосмяват.

  33. 33 Профил на Kosta Delev
    Kosta Delev
    Рейтинг: 936 Неутрално

    ... Ако косите на хората бяха бели и светлината идваше (поради някаква странна причина) отдолу, алгоритъмът щеше да предпочита тъмнокожи.

  34. 34 Профил на Darulio
    Darulio
    Рейтинг: 1345 Весело

    Занимаваме България с някакви алгоритми на някаква частна компания, която дори не е популярна в България, камо ли сред българските латиноси, араби или индианци?!?
    Ихаааа! Поредна драма, която не интересува нито един _нормален_ (и тук, и отвъд Океана) човек.
    Поздравления, Препечатник - за пореден път изхарчихте парите на спонсорите си без никакъв резултат. Ако бяхме пазарна икономика, Прокопи щеше да ви е дръпнал шалтера преди години. Потресаващо неадекватни история. Човек ще рече, че ви плащат отвън за такива простотии.

    "Една от най-долните привички на дребните души е да приписват своите низости и на другите." Оноре дьо Балзак, "Дядо Горио"
  35. 35 Профил на kiz301070297
    kiz301070297
    Рейтинг: 129 Неутрално

    ми то и аз предпочитам такива лица, ся кво праим?Раздухването на подобни "новини" е абсолютна глупост. Това нещо се нарича "бъг", и по света всеки ден се откриват милиони такива. И се създават горе-долу толкова нови.
    —цитат от коментар 21 на Ментор


    До коментар [#15] от "sylvester":

    Не е бъг, точно фийчър си е. Ако не беше така рекламите по телевизията щяха да са съставени изключително от ниски, дебели и мургави индивиди.

    На който нему харесва да смени канала (планетата).

  36. 36 Профил на buljubei
    buljubei
    Рейтинг: 526 Неутрално

    До коментар [#15] от "sylvester":
    Има ли шанс да се открие бъга и в тези системи? А дано, ама надали...
    ............
    И какъв е бъга?
    Че белите лица са по предпочитани дори от алгоритъма?
    Баси бъга.
    3500 долара награда?
    За Туитър това са пари за мокри кърпички за 1 ден.
    Сметни, колко ги интересува този "бъг".
    Ама понеже се вписва в "правилния" наратив - световните либерасти квичат гороломно.

    Лош алгоритъм , лош, лош
    Веднага трябва да се пренапише - само черни и малко жълти за цвят.
    Долу бялото потисничество!

  37. 37 Профил на buljubei
    buljubei
    Рейтинг: 526 Неутрално

    До коментар [#20] от "petrow1973":

    Кварцова лампа във всяка къща в Европа. Задължително, всеки ден по 5 минути облъчване, до постигане на задоволителен загар според BLM
    ............
    Сигурен съм, че за БЛМ-то няма "подходящ" загар.
    Даже по-лошо - опитваш се да преструваш.
    Абе направо белите в Сибир

  38. 38 Профил на iazdakaja
    iazdakaja
    Рейтинг: 1164 Неутрално

    До коментар [#33] от "Kosta Delev":

    ... Ако косите на хората бяха бели и светлината идваше (поради някаква странна причина) отдолу, алгоритъмът щеше да предпочита тъмнокожи.
    —цитат от коментар 33 на Kosta Delev


    Тцъ, белите коси също се отхвърлят от алгоритъма, като признак на старост (българската статия е силно съкратена).
    Най-зле са белокосите негри.
    Контрастът е проблем за човешкото око, не за компютър, който си го напасва (припроусесинг) преди да мине алгоритъма.

  39. 39 Профил на iazdakaja
    iazdakaja
    Рейтинг: 1164 Неутрално

    До коментар [#4] от "Мусаши":

    А би трябвало да предпочитш черни лица.
    Понеже в бедните/черните страни Туитър се ползва само от образовани хора, докато в богатите/белите страни от всеки. Т.е. глобалното статистическо черно лице е по-стойностно от бялото. Обаче бъгавият алгоритъм ти пробутва обратното. А ти дори си доволен, че те пързалят.

  40. 40 Профил на Ментор
    Ментор
    Рейтинг: 1377 Неутрално

    Американските медии са покорили нови низини и не просто раздухват, а умишлено търсят и дори създават подобни новини. Навярно ако обходиш днешния новинарски поток, ще намериш поне още 5-6 подобни. Джо може да е слийпи, но демократите зад него не са. :)
    —цитат от коментар 22 на itwasalladream


    Да, наистина е така. Комунистите здраво налазиха САЩ, и медиите им, като CNN, яко промиват мозъци. Същото става в училища и колежи. Черни и всякакви малцинства са като свещени крави, страната се пълни с нелегална измет ... изобщо здраво са го закъсали.
    Джо е изкуфяла марионетка, съмнявам се дали въобще осъзнава какво прави през повечето време.



  41. 41 Профил на Митко Палаузофф
    Митко Палаузофф
    Рейтинг: 534 Неутрално

    Абе, има един проблем с черните: не са полезни на никого. С други думи, за тях няма пари. Пари = полезност за другите. Работиш яко, полезен си на работодателя, получаваш пари. А, черните се славят с мързела си. Умен си, раждаш полезни идеи, получаваш пари - черните се славят с непросветеността си и с улавостта си. Не си дебел, нахален, прост и черен, следователно си сексапилен и получаваш пари "по втория начин". Е, черните са масово дебели, прости и нагли - и затова не мохгат да получат пари. Единици изкласяват в спорта и музиката (ако си падате по черна музика, де) - но една лястовица пролет не прави. Та, има проблем: белите трябва да дават пари на черните, които не заслужават тези пари. Абе, има проблем с черните и трябва пак да им покажем мястото, защото иначе е съсипия :)

  42. 42 Профил на Ivanov
    Ivanov
    Рейтинг: 351 Неутрално

    Аз собствено, Наоми Кембъл я уважавам.

    Поздрави!
  43. 43 Профил на sylvester
    sylvester
    Рейтинг: 525 Неутрално

    До коментар [#17] от "xm...":

    И с какво написаното от вас променя елементарните факти? Че бъгът е открит и компанията е признала че го има? Изхожда се от хипотеза? Разбира се. Вие знаете ли дали не са проверени 200 хипотези. Или 2000? А въпросът "защо този студент е търсел точно това" малко прилича на ситуация, в която питат крадеца защо е извършил кражбата, а той отговаря, че на ден стават по 100 кражби, какво са се вгледали в неговата...

  44. 44 Профил на Molossian
    Molossian
    Рейтинг: 1661 Неутрално

    Значи Туитър е откраднал моя алгоритъм на харесване.
    Бръже искам защита на интелектуална собственост!!!

    Panta rhei....




За да коментирате, е нужно да влезете в профила си или да се регистрирате.
С използването на сайта вие приемате, че използваме „бисквитки" за подобряване на преживяването, персонализиране на съдържанието и рекламите, и анализиране на трафика. Вижте нашата политика за бисквитките и декларацията за поверителност. ОK