На Генеральній Асамблеї ООН представники політичних, наукових та суспільних кіл ініціювали проект, відомий як "Глобальний заклик до червоних ліній у сфері ШІ". Його мета полягає в тому, щоб до 2026 року встановити міжнародні заборони на найбільш небезпечні способи використання штучного інтелекту. Про це інформує Gizmodo.

Цей документ уже отримав підписи понад 200 осіб, серед яких колишня президентка Ірландії Мері Робінсон, екс-президент Колумбії Хуан Мануель Сантос, а також видатні вчені Джеффрі Хінтон і Йошуа Бенджіо, яких вважають "батьками" штучного інтелекту. Серед підписантів також є відомі науковці та активісти.

Учасники ініціативи закликають держави домовитися про базові обмеження, що допоможуть уникнути "неприпустимих ризиків". Конкретні правила в документі не прописані, однак наведено приклади можливих "червоних ліній". Серед них — заборона використання ШІ для запуску ядерних ракет, масового стеження за громадянами або створення систем, які неможливо зупинити людиною.

Організатори пропонують, щоб майбутня угода ґрунтувалася на трьох основних принципах:

• чіткий список заборонених практик;
• незалежні механізми перевірки та аудиту;
• створення міжнародного органу для контролю за виконанням угод.

При цьому остаточне визначення меж і процедур залишається на розсуд країн. Ініціатори радять проводити спеціальні саміти та робочі групи для узгодження позицій.

США вже мають зобов’язання "не допустити, щоб ШІ контролював ядерну зброю", ухвалене ще за адміністрації Байдена. Однак представники розвідки адміністрації Трампа висловили незадоволення щодо того, що компанії, які розробляють ШІ, не дозволяють використовувати свої розробки для внутрішнього стеження. Такі проблеми можуть ускладнити прийняття глобальних рішень у сфері безпеки, на які сподіваються експерти з ШІ.