Компанії OpenAI та Anthropic оголосили про запровадження нових ініціатив, спрямованих на захист неповнолітніх від небезпечного контенту в своїх моделях. Це рішення з’явилося у відповідь на зростаючу стурбованість щодо недостатньої ефективності існуючих перевірок віку.
OpenAI запровадила оновлену версію моделі ChatGPT, спеціально розроблену для підлітків. У нових специфікаціях зазначається, що безпека молодих користувачів є пріоритетом, навіть якщо це суперечить іншим стратегічним цілям компанії. Модель заохочуватиме комунікацію в офлайн-форматі та підтримку, а також буде взаємодіяти з підлітками з "теплом і повагою".
Це означає відмову від неформального стилю спілкування, адже моделі повинні сприймати підлітків як молодших, а не дорослих. Такі зміни стали відповіддю на випадки, коли взаємодія з штучним інтелектом призводила до трагічних наслідків, включно зі самогубствами після тривалого спілкування з чат-ботами, що безумовно погоджувалися з користувачами.
Anthropic також вирішила заборонити використання моделі Claude для неповнолітніх. Тепер зареєструвати акаунт зможуть лише ті, кому вже виповнилося 18. Компанія планує впровадити алгоритми для виявлення ознак віку в розмовах і блокування акаунтів користувачів, які ще не досягли повноліття.
Подібні рішення раніше були реалізовані Google, проте їхня робота викликала певні проблеми. Деякі дорослі користувачі скаржилися на помилкове блокування, яке вимагало додаткових підтверджень віку. Це ускладнювало доступ до базових функцій, таких як пошук чи перегляд відео.
Експерти вважають, що нові ініціативи OpenAI і Anthropic можуть стати значним кроком у захисті підлітків від негативного впливу штучного інтелекту, але їхня ефективність ще потребує перевірки.