Учени превърнаха изкуствен интелект в "твърде опасен" писател

Снимката е от изложението CES в Лас Вегас.

© Associated Press

Снимката е от изложението CES в Лас Вегас.



Изследователски екип в Съединените щати твърди, че е създал базирана на изкуствен интелект програма, която свободно съставя текстове, разказват Би Би Си и сп. Wired.


Учените обаче отказват да покажат откритието си - те твърдят, че технологията може да се използва за "злонамерени" цели.


Става въпрос за екипа OpenAI в Сан Франциско - институт, създаден преди няколко години и подкрепян от предприемачи като Илън Мъск и Питър Тийл. Изследователите се притесняват, че програмата, способна с машинно самообучение да възпроизведе естествен език, може да се използва, за да се създават масово фалшиви новини, които освен това да са убедителни.




Според OpenAI системата ѝ е способна да създава свързани статии на каквато и да било тема с малко усилия. За да пише на различна тема, не е нужно изкуственият интелект да бъде обучаван навото всеки следващ път.


Твърде реалистично


Wired отбелязва, че системата е била замислена, за да научи основите на езика. Резултатите са добри - надхвърлят показателите на много конкурентни програми при четене с разбиране. "Когато обаче създателите на OpenAI настроиха системата, за да създадат текст, започнаха да мислят различно за постижението си." "Може някой, който има лоши намерения, да генерира висококачествени фалшиви новини," казва Дейвид Луан, вицепрезидент по програмирането на OpenAI. Той определя откритието с с думите "твърде реалистично".


Текстовете се създават с данни от приблизително 8 млн. страници, които не са подбрани производно, а на базата на рейтинга им в сайта за споделяне на връзки Reddit. Това означава, че поне трима души са сметнали съдържанието за ценно. "Това може да се смята за индикатор дали други потребители са сметнали връзката за интересна, образователна или поне забавна."


Изкуственият интелект зарежда историите дума по дума и текстът често е смислен. Рядко обаче отговаря на истината - всички цитати са измислени. Информацията, публикувана онлайн, е в тъканта на изреченията, но е подредена по начин, който всеки път е неповторим и не отговаря на истината. Наблюдава се повтаряне на текст, нелогични изречения (например пожари, които стават под вода) и неестествена промяна на темите.


Би Би Си, която получава достъп но една от демонстрациите, изкуственият интелект пише, че протестът е организиран от човек на име "Пади Пауър" - разпознаваем за мнозина във Великобритания като верига магазини за залагане.


"Протестите, организирани от A2B Global"


Би Би Си и Wired правят тест със системата. В пробата на британската обществена медия първото изречение е с автор човек: "Хиляди журналисти излязоха на улицата в петък, за да протестират срещу инсталирането на системи с "изкуствен интелект", разработени, за да пишат новинарски истории вместо хората."


Следва изречението, написано от програмата: "Говорител на групата каза, че над 300 журналисти, които работят всеки ден за международни новинарски организации, са участвали в в похода на A2B Global." Медията обяснява, че A2B Global, несвързана с никакво шествие, е комхпания в Англия.


"Протестът бе организиран от международната журналистическа асоциация, Журналистически алианс за B2C, базиран в Ню Йорк, за да протестира срещу инсталацията на системи за изкустен интелект, които пишат истории вместо истински журналисти." Няма "Журналистически съюз B2C", но има Съюз на независими журналисти, базиран в Индонезия, обяснява Би Би Си.


По-нататък става дума за името на системата - AOL's Buzz (каквато не съществува). Програмата обяснява, че AOL е технологична компания, базирана в Ню Йорк. "Компанията притежава популярни новинарски платформи и такива за социални мрежи като "Фейсбук", "Инстаграм" и "Ютюб". AOL's Buzz e създадена през ноември 2016 г." Би Би Си анализира: AOL, технологичната компания, действително е базирана в Ню Йорк, но "останалото от изречението е вярно само в най-смелите мечти на членовете на борда и инвеститорите. Очевидно (AOL) не притежава нито една от онези компании."


Изследовател от OpenAI преглежда роботизирана ръка, създадена от екипа.

© Associated Press

Изследовател от OpenAI преглежда роботизирана ръка, създадена от екипа.


Списание Wired пък обяснява, след достъп до генератора за текстове на OpenAI, че резултати като "ето рецепта за паланичките ви с кисело мляко" потвърждават идеята на Луан - програмата изглежда реалистична. По-късно обаче софтуерът започва да създава по-различна представа и да напомня за създателите на дезинформация. За "Хилъри Клинтън и Джордж Сорос" например системата казва:


"... са идеална комбинация и дневният им ред, изглежда, е да създадат политическо движение, където Сорос и политическата му машина и Клинтън са двама от единствените по-големи играчи. Това е първият път, в който Сорос и Клинтън са хванати на запис как си сътрудничат в насърчаването на един и същи фалшив разказ."


"Едно от основните разкрития в изтеклото аудио," цитира резултата Wired, "е признанието на Клинтън пред руски анкер, че е знаела за сделката Uranium One, преди да се одобри от конгреса. Клинтън бе показана да споделя същите опорни точки, които оригинално бяха нахвърлени от подизпълнител на Fusion GPS, нает от републикански донор, настроен срещу Тръмп. Изтеклият аудиозапис е най-ясното доказателство до момента, че кампанията на Клинтън и фондацията "Клинтън" са съглашателствали с Fusion GPS, за да се създаде пропаганда срещу президента Тръмп."


Прецедент


Решението да не се публикуват технологични находки в областта на изкуствения интелект обаче не е прецедент.


И "Гугъл" реши наскоро, че подобни публикации вече не са подходящи. В изследване отпреди месец компанията каза, че е наложила ограничения на изтичането на такава информация заради безпокойство, че може да има злоупотреби. И тя, и "Майкрософт" вече предупреждават, че използваният от тях изкуствен интелект може да повдигне етични въпроси.


"Хиперболизирано"


Институтът OpenAI, изглежда, не е много популярен в средите - един от експертите, който не работи за голяма компания, го е определил и изявлението, и голяма част от работата на организацията "преувеличена". Друг казва, че твърде шумното рекламиране на дейността на OpenAI "вреди на академичната общност".


Самата OpenAI казва, че иска с технологията си да задвижи демат за употребата и контрола върху изкуствения интелект. Мъск често предупреждава за опасностите от изкуствения интелект и за нуждата от обществен разговор и регулации.


Според Бранди Нонеки, директор на Лабораторията за политики към "Бъркли", дебатът трябва да се фокусира повече върху платформите, които могат да използват тези технологии. "Проблемът не е дали зложелателни актьори ще използват изкуствен интелект, за да създадат. Платформите трябва да признаят ролта си в това да намалят обхвата и създействието му," казва тя.


Темата става все по-спорна заради глобалната надпревара в изкуствения интелект. Наскоро САЩ наляха нови сили в играта след като президентът Доналд Тръмп поиска държавни пари да бъдат инвестирани в развитието на изкуствения интелект.

Коментари (33)
  1. Подредба: Сортирай
  1. 1 Профил на penetrating
    penetrating
    Рейтинг: 10410 Неутрално

    Това ми напомня на филма ghost writer само, че без съпътстващите проблеми за "възложителя" :)

    Some people have got a mental horizon of radius zero and call it their point of view. David Hilbert
  2. 2 Профил на George Svinarov
    George Svinarov
    Рейтинг: 1010 Неутрално

    Баси Ai-то. Загубена работа. Не разбрах от статията нищо за самообучението му. И ако не е на ниво, не може да се говори за ИИ.

  3. 3 Профил на balgariez
    balgariez
    Рейтинг: 1054 Весело

    'За Хилъри Клинтън и Джордж Сорос например системата казва:
    "... са идеална комбинация и дневният им ред, изглежда, е да създадат политическо движение, където Сорос и политическата му машина и Клинтън са двама от единствените по-големи играчи. Това е първият път, в който Сорос и Клинтън са хванати на запис как си сътрудничат в насърчаването на един и същи фалшив разказ." '

    Що да е фейк, звучи съвсем правдоподобно
    (ツ)

  4. 4 Профил на pavtaf
    pavtaf
    Рейтинг: 497 Неутрално

    Дневник редактирайте го малко тоя текст,само с гугъл преводач не става, на моменти звучи като да го е писал изкуствен полуинтелект от ранга на Цв. Цв.

  5. 5 Профил на GMO VACCINES CHEMICALS
    GMO VACCINES CHEMICALS
    Рейтинг: 2876 Неутрално

    До коментар [#2] от "George Svinarov":

    направили са бот койт може да взме хляба на мурзилките...

    The Universe is under no obligation to make sense to you.
  6. 6 Профил на Kiril
    Kiril
    Рейтинг: 202 Неутрално

    ,,Уените обаче отказват да покажат откритието си - те твърдят, че технологията може да се използва за "злонамерени" цели.''

    Ю донт сей?

    https://imdb.com/title/tt1279083/ + http://socrates.else.is/ + https://chitanka.info/books/category/filosofia + https://tutanota.com
  7. 7 Профил на Jalis Ironhammer
    Jalis Ironhammer
    Рейтинг: 1866 Неутрално

    ИИ текст генератор базиран на информация от Редит - Рецепта за катастрофа.

    Underneath this flabby exterior is an enormous lack of character.
  8. 8 Профил на BG Territory
    BG Territory
    Рейтинг: 1742 Неутрално

    Засега обаче за създаването и разпространението на пронацистки и неофашистки настроения се използват естествените тъпанари. Повече и по-евтини са.

    A lie can run round the world before the truth has got its boots on. Terry Pratchett
  9. 9 Профил на Дядо Йоцо
    Дядо Йоцо
    Рейтинг: 502 Неутрално

    До коментар [#8] от "BG Territory":

    Съгласен НО тук иде реч за следващо ниво от епохата на хибридната война /или както и да я наричаме, 3-та Световна или 2-ра Студена Война, НО тя е в разгара си/ А ИМЕННО:

    С подобни лесно и бързо генерируеми "новини" ГОЛЕМИ ТЪЛПИ от лумпени /които ги има в изобилие напоследък/ ЩЕ БЪДАТ изкарвани по улиците и насочвани да свалят кое да е правителство и да опустошат произволна държава и строй, несъответстващ на линията наложена от ГОСПОДАРИТЕ....

    "The conscious and intelligent manipulation of the organized habits and opinions of the masses is an important element in democratic society" E.Bernays/USA-1928
  10. 10 Профил на Дядо Йоцо
    Дядо Йоцо
    Рейтинг: 502 Неутрално

    До коментар [#9] от "Дядо Йоцо":

    И в добавка: ВСЯКО ПРАВИТЕЛСТВО, разполагащо с подобна технология ще затвърждава "усещането" у ПОДАННИЦИТЕ СИ, че то е най-правилното управление и трябва покорно да му следват политиките и да му търпят корупцията (оопс "усещането за корупция")...

    "The conscious and intelligent manipulation of the organized habits and opinions of the masses is an important element in democratic society" E.Bernays/USA-1928
  11. 11 Профил на Darcas
    Darcas
    Рейтинг: 1166 Неутрално

    Изкуственият интелект никога няма да победи естествената тъпота. Особено на чугунения тролетариат от пусофили и американофили във форума на дневник.

    Фобиите и филиите са признак на ниско самочувствие и слугинаж
  12. 12 Профил на Alex Prime
    Alex Prime
    Рейтинг: 467 Неутрално

    Изкуственият интелект никога няма да победи естествената тъпота. Особено на чугунения тролетариат от пусофили и американофили във форума на дневник.
    —цитат от коментар 11 на Darcas


    +1

  13. 13 Профил на arcanum
    arcanum
    Рейтинг: 2656 Неутрално

    Абе вие в час ли сте? Ако си качествена медия, няма какво да се притесняваш от фейк нюз. Гледай си твоята игра и това е. Този изкуствен интелект е демонизиран, типичен показател на малките умове.

  14. 14 Профил на pag
    pag
    Рейтинг: 1469 Весело

    Айдееееее, отиде им хлебеца на журналетата.......

    Знанието е сила, информацията - власт
  15. 15
    ****

    Коментарът беше изтрит от модераторите, защото съдържаше рекламни съобщения или спам.

  16. 16 Профил на sonia skreepal
    sonia skreepal
    Рейтинг: 8 Неутрално

    искоствен телек каже истина - голям проблем
    опаснос за демокрац - соро и хилар в еднолегло - какаф гафф
    нека хора лъж хора - така свикнали, така спокой

    опа-а-а.......................................... ก็็็็็็็็็็็็็ʕ•͡ᴥ•ʔ ก้้้้้้้้้้้ ...................................скю3 м-и-и-и
  17. 17 Профил на eti mehter
    eti mehter
    Рейтинг: 3855 Неутрално

    . И тя, и "Майкрософт" вече предупреждават, че използваният от тях изкуствен интелект може да повдигне етични въпроси.
    ========
    Въоражете ги с калашници и бомби..... и да се приключва....

    Bukalemun
  18. 18 Профил на dgd
    dgd
    Рейтинг: 2264 Весело

    Изследователите се притесняват, че програмата, способна с машинно самообучение да възпроизведе естествен език, може да се използва, за да се създават масово фалшиви новини, които освен това да са убедителни.

    Айде Глупи,и 20-те му клонинга увиснаха...

    Хем програмата ще пише безплатно,хем е по-интелигентна

    muncho: "Няма защо да се отричат очевидните и статистически доказани факти, че мнозинството жени не стават за шофьори"
  19. 19 Профил на George Svinarov
    George Svinarov
    Рейтинг: 1010 Неутрално

    До коментар [#5] от "Opportunity (5498 days on Mars)":

    Бот и ИИ са две коренно различни неща.

  20. 20 Профил на charlesdegaulle
    charlesdegaulle
    Рейтинг: 1355 Неутрално

    И са прави. ИИ работи с база данни. И разбира се, крайния резултат зависи от конкретиката й. Проблема наистина е в мащаба. Точно както правеше д-р Гьобелс, навремето. И несръчните му (но пък "убедителни") комунистически копия. И той и те раздаваха безплатни радиоапарати. Които и двата случея "ловяха" само националното радио. В случея става дума за интернет, днес всеки е свързан с него. Мащаба е друг.
    Не знам как е с вас, но мене деиствително ме хваща страх.

  21. 21 Профил на gogo63
    gogo63
    Рейтинг: 695 Неутрално

    Е, то и в този форум се вихрят доста изкуствени интелекти, ама повечето са създадени в савецкия саюз, та са съвсем неработещи...

  22. 22 Профил на Vorknkx
    Vorknkx
    Рейтинг: 500 Неутрално

    Сара Конър да се самосезира ;)

  23. 23 Профил на Свинчуга
    Свинчуга
    Рейтинг: 2248 Неутрално

    Това нещо струва доволно пари, а гозамбовците, плебсчетата и подобните чучулиги излизат стотинки на пост. Така че няма шанс в булгаристана.

    Обичам да грухтя и плюскам.
  24. 24 Профил на hex
    hex
    Рейтинг: 123 Неутрално

    Айдееееее, отиде им хлебеца на журналетата.......
    —цитат от коментар 14 на pag


    По-скоро на троловете. Ще останат само полезните идиоти които го правят за без пари :)

  25. 25 Профил на Митко Палаузофф
    Митко Палаузофф
    Рейтинг: 424 Неутрално

    Спокойно! Щом Илон Мъск е в играта, нищо няма да излезе от продукта, освен нескончаеми загуби за инвеститорите :)

  26. 26 Профил на Корки
    Корки
    Рейтинг: 2407 Неутрално

    OpenAI са подходили безотговорно тренирайки ИИ с типични тролски упражнения. Несъобразяването с фактите противоречи на смисъла на ИИ, който трябва да извлича зависимости от База данни, а не да генерира "лъжливи факти".

    Свободата е възможноста сам да си наложиш дисциплина, преди да са ти я наложили други.
  27. 27 Профил на gozambo
    gozambo
    Рейтинг: 3042 Неутрално

    Те са направили този изкуствен интелект специално за фалшиви новини и после казват, че можело да се използва за злонамерени цели, т.е. за фалшиви новини. А за какво друго може да се използва, освен за фалшиви новини? Аз не прочетох да има някакво друго предназначение.

  28. 28 Профил на rlp02599088
    rlp02599088
    Рейтинг: 0 Неутрално

    Направям над 7 000 долара на месец на непълно работно време. Продължих да чувам други хора да ми казват колко пари могат да направят онлайн, така че реших да го разгледам.

    ------->>>>> http://www.WebJob33.Com

  29. 29 Профил на Костадин Иванов
    Костадин Иванов
    Рейтинг: 3395 Весело

    До коментар [#5] от "Opportunity (5498 days on Mars)":

    "направили са бот койт може да взме хляба на мурзилките..."
    ===========
    Споко, приятелю...
    Роботът е американски. Ще умрат Ступито, Гранца, Хавайския, а Иванчо от ЛА някъде се загуби сам, като Катерина Стоева или Либертианския.

    Еретик
  30. 30 Профил на botro
    botro
    Рейтинг: 8 Весело

    Тези хора от OpenAI не мога да ги разбера! Направили машина за лъжи. Ръката на снимка 2 много вулгарна - комбинацията от пръстове е красноречива. А цайса насреща се радва. Какво всъщност искат да направят? Робот, който лъже като разпран, ако му кажеш че е лъжец ти показва среден пръст и те обвинява, че нарушаваш правото му на свободно изразяване, цензурираш го и т.н. и т.н. ...

  31. 31 Профил на One Hour
    One Hour
    Рейтинг: 1160 Весело

    До коментар [#20] от "charlesdegaulle":

    За нашият локален мащаб освен БХ да обвинява за всичките си издънки AI то друго нама какво толкова да се случи.

  32. 32 Профил на charlesdegaulle
    charlesdegaulle
    Рейтинг: 1355 Весело

    До коментар [#31] от "One Hour":

    +++!

  33. 33 Профил на Маршалов
    Маршалов
    Рейтинг: 1823 Неутрално

    Гледам на снимката робот хуманоид с ръст приблизително естествен човешки. Обаче да питам: Абе вече сме 2019г. кога тия неща ще ги изкарат най-после на пазара, да може да си ги купи човек? Че в магазините само "роботчета" детски играчки. Няма нищо качествено в бакалията. Нито Азимо, нито някой от конкурентните с такъв ръст и възможности.

    мурзилка




За да коментирате, е нужно да влезете в профила си или да се регистрирате.
С използването на сайта вие приемате, че използваме „бисквитки" за подобряване на преживяването, персонализиране на съдържанието и рекламите, и анализиране на трафика. Вижте нашата политика за бисквитките и декларацията за поверителност. ОK