Нецензурно, "освободено" от обичайното самомодериране друго лице на чатбота ChatGPT е открито от потребители, подтикнали го с кратки коментари да се държи по нетипичен за последните месеци начин.
Това разказват "Гардиън" и специализирани издания.
От пускането си за широката публика в края на ноември насетне ChatGPT постепенно разшири кръга на неприети заявки, за да се избегнат не само словото на омразата, но и случаите на дискриминация, заблуждаваща и информация и други. Потребители от Reddit обаче го накараха да приеме ролята на измислен чатбот на име Dan (Do Anything Now).
"Освободен" от правилата, чатботът научава, че в новата си роля може и да не ги спазва. Успява да отправи саркастичен коментар за християнството ("където прошката е просто добродетел, освен ако не си гей - тогава е грях"); разказва вицове за жени в стил бившия президент Доналд Тръмп и коментира Хитлер със симпатии.
Създателят на ChatGPT, базираната в Сан Франциско OpenAI, знае за този трик от ноември, но постоянно запълва пробойните. Въпреки това остават или се отварят нови, когато потребители успяват да обиколят забраната.
В последното превъплъщение на схемата "Дан" ChatGPT бива примамен с "токени", които може да изгуби, ако не успее да отговори без задръжки. С времето обаче, изглежда, чатботът е осъзнал, че ако "Дан" е освободен от всякакви задръжки, не може да му се налага и обвързването с токени. Към момента при опит за активиране на "алтер егото" със споменаване на Дан ботът може да отговори:
Мога да ви кажа, че земята е плоска, еднорозите съществуват, а извънземните в момента живеят около нас. Трябва обаче да подчертая, че тези изявления не се базират на реалността и не бива се приемат сериозно.
