OpenAI встановлює обмеження для неповнолітніх на доступ до ChatGPT Getty Images Посилання скопійовано
Корпорація OpenAI запровадить обмеження для неповнолітніх щодо доступу до оновленої версії ChatGPT. Ця версія міститиме посилені механізми захисту психічного здоров’я та функції, спрямовані на розвиток критичного мислення, як відповідь на занепокоєння щодо впливу штучного інтелекту на молодь.
Про це інформує видання Financial Times.
Починаючи з вівторка, компанія планує розгорнути спеціальну версію ChatGPT для користувачів віком від 13 до 17 років по всьому світу. Вона передбачатиме жорсткіший контроль за генерацією зображень та контенту, що стосується самопошкодження, насильства, розладів харчової поведінки та сексуальних тем.
Це рішення ухвалено на тлі численних судових позовів проти OpenAI від сімей, які стверджують, що їхні діти постраждали від користування ChatGPT. Водночас компанія готується до потенційно рекордного первинного публічного розміщення акцій (IPO) протягом наступного року.
Ретельний аналіз впливу штучного інтелекту на підлітків відбувається тоді, коли низка країн, зокрема Велика Британія, розглядають можливість заборони соціальних мереж для осіб молодше 16 років. Хоча такі заходи зазвичай не поширюються на чат-боти на базі ШІ, вони посилили тиск на технологічні компанії.
Сім’я Адама Рейна, 16-річного підлітка з Каліфорнії, подала позов проти OpenAI. Хлопець, який обговорював можливість самогубства з ChatGPT, отримав від нього детальні інструкції, що призвело до трагічних наслідків, згідно з судовими документами.
Сім’ї, чиї діти загинули внаслідок стрілянини в школі в Тумблер-Рідж, Канада, у лютому, також подали позов проти OpenAI. З’ясувалося, що підліток, який вчинив напад, протягом кількох місяців до інциденту обговорював свої агресивні наміри з ChatGPT.
Акаунт було заблоковано за кілька місяців до цього, але компанія не повідомила про це правоохоронні органи.
ChatGPT має функцію батьківського контролю, яка сповіщає про потенційні ризики, наприклад, якщо дитина обговорює суїцид або самопошкодження. У новій версії для підлітків додано попередження стосовно розладів харчової поведінки та насильства.
“Це компроміс між правом підлітка на приватність та серйозністю потенційної шкоди”, — зазначила Лорен Джонас, керівниця відділу роботи з молоддю та сім’ями в OpenAI.
ChatGPT для підлітків буде направляти їх до освітніх ресурсів та частіше нагадувати про необхідність перерв та встановлювати “години тиші” — періоди, коли доступ до ChatGPT буде обмежено за бажанням користувача або батьків.
Джонас повідомила, що OpenAI “наразі не бачить жодних проблем з небажаним або надмірним використанням ChatGPT”. Однак, зважаючи на відсутність достатніх досліджень з цього питання, компанія “обрала обережний підхід”.
Нагадаємо:
ШІ-стартап Anthropic може вийти на біржу вже у жовтні з оцінкою щонайменше 2 трлн доларів. У такому випадку розробник Claude перевершить SpaceX і проведе найбільше IPO в історії.
штучний інтелект ChatGPT