У Сполучених Штатах представили новий законопроєкт, що має на меті захистити молодь від потенційних загроз, пов'язаних із застосуванням штучного інтелекту. Про це повідомляє видання The Verge.
Сенатори Джош Голлі та Річард Блументаль пропонують заборонити використання AI-чатботів для осіб молодше 18 років і зобов'язати компанії перевіряти вік усіх користувачів. Це може включати в себе завантаження документів, що посвідчують особу, або використання технологій, таких як розпізнавання обличчя.
Ця ініціатива з'явилася після слухань у Сенаті, коли батьки та експерти вказували на небезпеку, яку несе ШІ для дітей. У законопроєкті зазначається, що чатботи повинні регулярно нагадувати користувачам, що вони не є людьми, і не можуть видавати себе за людей. Також заборонятиметься використання ШІ для генерації контенту з сексуальним змістом для підлітків чи закликів до самогубства.
Сенатор Блументаль підкреслив, що закон встановлює "суворі механізми захисту від маніпуляцій з боку ШІ" і передбачає кримінальну та цивільну відповідальність за порушення. Він зазначив, що великі технологічні компанії не повинні залишатися без контролю, оскільки вони "постійно ставлять прибутки вище безпеки дітей".
Цей законопроєкт може стати першим серйозним кроком США в напрямку регулювання взаємин неповнолітніх з штучним інтелектом.
Не так давно OpenAI повідомила, що понад мільйон людей щотижня звертаються до ChatGPT з питаннями про самогубство. Компанія визначає обговорення психічного здоров'я як один із пріоритетів, особливо після того, як батьки 16-річного хлопця, який розповідав боту про свої суїцидальні думки за кілька тижнів до самогубства, подали позов проти OpenAI.