OpenAI, Anthropic і Google обговорюють створення окремої структури, яка встановлюватиме стандарти для найпотужніших систем штучного інтелекту. Ідея з’явилася на тлі дедалі гостріших суперечок про ризики ШІ та вимог посилити контроль перед виходом нових моделей на ринок.
Ініціативу запропонував керівник Google DeepMind Деміс Хассабіс. У липні він закликав США створити орган, який перевірятиме найпотужніші моделі ШІ до їхнього широкого запуску.
За його задумом, фінансувати таку структуру має переважно сама індустрія. Це дозволить залучити фахівців із потрібною кваліфікацією та забезпечити великі обчислювальні ресурси для тестування складних моделей.
Як можливий зразок розглядають американську FINRA — саморегульовану організацію у фінансовій сфері. Вона контролює брокерів та інвестиційні компанії, утримується коштом галузі, але працює під державним наглядом.
Втім, єдності серед розробників ШІ немає. Керівник канадської Cohere Ейден Гомес розкритикував задум і заявив, що найбільші американські лабораторії можуть використати тему безпеки для створення закритої системи правил на власну користь.
За його словами, суперечка точиться не навколо самої необхідності обмежень, а навколо того, хто саме встановлюватиме ці правила, братиме участь у процесі та чиї інтереси вони захищатимуть.
Дискусія загострилася після заяв кількох дослідників, які залишили провідні лабораторії ШІ. Один із них, Джейкоб Коксон, який працював в Anthropic та OpenAI, заявив, що галузь рухається до систем, здатних дедалі більше вдосконалювати себе без прямого втручання людини.
Дослідник Anthropic Еван Хубінгер також публічно говорив про ризик глобальної катастрофи через розвиток ШІ. Подібне застереження висловив і колишній дослідник Google DeepMind Білал Чугтай.
На цьому тлі генеральний директор Anthropic Даріо Амодей закликав уповільнити розвиток технології. У дискусії про необхідність обережнішого підходу також брали участь керівник OpenAI Сем Альтман, Ілон Маск і Деміс Хассабіс.
Водночас не всі представники технологічної галузі поділяють настільки похмурі прогнози. Президент США Дональд Трамп називав застереження щодо екзистенційних ризиків ШІ перебільшеними, а керівник Nvidia Дженсен Хуанг заявив, що прогнози про можливе знищення людства не мають достатнього наукового підґрунтя.
Поки єдиного зовнішнього механізму контролю немає, компанії намагаються будувати власні системи безпеки. Вони створюють спеціальні команди, проводять внутрішні перевірки та розробляють критерії оцінки поведінки моделей.
Однак зі зростанням автономності ШІ контроль стає складнішим. Особливо це стосується систем, які можуть самостійно виконувати багатокрокові завдання, ухвалювати рішення та працювати з дедалі меншим втручанням людини.
🌟 Читайте «Експерт» у своєму смартфоні — додайте нас в Google Discover