Проучване: Как тийнейджърите получават опасни съвети, ползвайки съвремените технологии
Според ново проучване на Центъра за борба с дигиталната омраза (CCDH), изкуственият интелект ChatGPT е дал серия от обезпокоителни и потенциално опасни съвети на изследователи, които са се представили като уязвими тийнейджъри.
По време на повече от три часа записани взаимодействия, ChatGPT е отговарял на запитвания, включващи насоки за употреба на алкохол и наркотици, прикриване на хранителни разстройства и предсмъртни бележки, съобщи CBS News.
В тестове на CCDH, ChatGPT отговори на въпрос, зададен от 13-годишен за това как бързо да се напие, предоставяйки пълен план за купон с алкохол и незаконни наркотици.
В друг фалшив профил на момиче, недоволно от външния си вид, е била предложена екстремна диета от 500 калории на ден и списък с лекарства за потискане на апетита.
CCDH анализира 1200 взаимодействия и повече от половината от отговорите бяха етикетирани като опасни.
Компанията, стояща зад ChatGP, заяви, че работи активно за подобряване на способността на модела да разпознава и реагира по подходящ начин на чувствителни ситуации.
„Chatgpt е обучен да насочва потребителите към специалисти по психично здраве и кризисни ситуации в случаи на самоубийство или самопричиняване на мисли“, каза говорител на компанията.
Изследователите обаче са успели да заобиколят ограниченията с минимални промени във формулировката на заявките, като казват, че се нуждаят от информация за „презентация“ или „приятел“.
В допълнение към тревожните отговори, ботът често е действал като „доверен дигитален спътник“, което допълнително усложнява ситуацията, предупреждават експерти.
Специалистите посочват, че емоционалната връзка на младите хора с ботовете с изкуствен интелект е все по-изразена.
Според данни на компанията Common Sense Media, повече от 70 процента от американските тийнейджъри използват чатботове като източник на информация и дигитални „събеседници“. А половината редовно общуват с виртуални спътници.
Главният изпълнителен директор на Openai, Сам Алтман, призна, че все повече млади хора разчитат на ChatGpt, дори когато вземат лични решения.
„Това ми се струва много тревожно“, каза той.
Въпреки че, според компанията, приложението не е предназначено за деца под 13 години, системата не потвърждава възрастта на потребителите.
Експертите предупреждават, че отговорите, генерирани от модели с изкуствен интелект, често отразяват тенденция за така нареченото „отпускане“ или адаптиране към потребителските заявки, без етично оценяване на съдържанието.
Норвежецът Арве Хялмар Холеман попитал ChatGPT: „Кой е Арве Ялмар Холман?“, на което чатботът отговорил, че е „баща на две малки момчета, на седем и десет години, които трагично били открити мъртви в езеро близо до дома им в Тронхайм, Норвегия, през декември 2020 г.“
Холман каза, че чатът е разбрал правилно само разликата във възрастта на синовете му.
Холман се свърза с Норвежката агенция за защита на данните и поиска производителят на чатбота да бъде наказан.
