Американският милиардер Илон Мъск, съоснователят на "Епъл" Стив Возняк и световноизвестният историк Ювал Ноа Харари застанаха, заедно с над 1000 други (включително бизнес лидери, изследователи и експерти) зад призив за шестмесечна пауза в разработването на мащабни проекти с изкуствен интелект.
Имат се придвид начинания, стремящи се към по-мощни системи от нашумелия чатбот ChatGPT и наследника му GPT-4, представен този месец. Причината да се отправи това искане в отворено писмо - с над 1170 подписа към 21:20 ч. българско време - са потенциални рискове за човечеството.
Писмото, издадено от института с нестопанска цел Future of Life Institute, призовава първо да бъдат разработени, внедрени и одитирани от независими експерти споделени протоколи за безопасност за такива проекти, а след това те да продължат.
"Мощните системи с изкуствен интелект трябва да бъдат разработени само след като сме уверени, че ефектите им ще бъдат положителни, а рисковете ще бъдат управляеми."
Описани са и потенциалните рискове за обществото и цивилизацията от системите за изкуствен интелект, които може да се конкурират с човека. Говори се за икономически и политически смущения, а за опасностите разработчиците трябва да взаимодействат с политиците и регулаторите.
Кой стои зад инициативата
В списъка са фигури от разрастващата се индустрия с изкуствен интелект, включително от екипа зад невронната мрежа на "Гугъл" DeepMInd и смятания за един от "кръстниците" на изкуствения интелект Йошуа Бенгио от Монреалския университет.
Данни от регистрите на Европейския съюз сочат, че Future of Life Institute се финансира основно от фондация на Мъск Мъск и бизнес фигури в Лондон и Силициевата долина.
Авторите на отвореното писмо същевременно цитират скорошно изявление на компанията, според което "в даден момент може да е важно да се получи независим преглед, преди да започне обучението на бъдещите системи, а за по-напредналите усилия да се постигне съгласие за ограничаване на скоростта на растеж на изчисленията, използвани за създаване на нови модели". "Съгласни сме", казват подписалите. "Този момент е сега."
Сензация, безпокойство и критики
От появата си в края на ноември ChatGPT поляризира света, включително научноизследователската общност и бизнеса. Възможностите на езиковия модел за генерирането на съдържание (често успешно) подтикна конкурентите да ускорят работата по сходни и други продукти.
OpenAI обяви този месец, че работи с редица компании, които опитват да вградят услугите си в ChatGPT, за да могат потребители да поръчват храна или резервират полети.
Според някои експерти бумът на изкуствения интелект може да преобрази икономиката и обществото със сътресения, които ще заличат милиони работни места. Има обаче и критики към авторите на писмото, които вече бяха обвинени, че силно преувеличават рисковете и вместо това са нужни по-строги изисквания за прозрачност.
В Европа същевременно темата за нуждата от регулации на изкуствения интелект набира сили; последният повод бе новината от тази седмица, че белгиец се е самоубил след два месеца разговор с чатбот, смятан за опит за модел на терапевт и разработен преди 17 години по идея отпреди почти 60.
Виж видео 
