Зміст
Ведучі розробники ШІ об’єднуються для створення галузевих стандартів
Компанії OpenAI, Anthropic та Google, лідери в галузі розробки штучного інтелекту (ШІ), мають намір спільно розробити новий саморегульований орган. Його метою стане встановлення галузевих стандартів, що стало відповіддю на зростаючі побоювання щодо потенційних ризиків, пов’язаних з бурхливим розвитком технологій ШІ. Про це стало відомо з заяви OpenAI, яку наводить французький телеканал France 24.
Ініціатива, озвучена 15 вересня, належить Демісу Хассабісу, голові Google DeepMind. Він запропонував створити структуру, аналогічну Управлінню з регулювання фінансової індустрії США (FINRA), яке здійснює нагляд за діяльністю брокерів та інвестиційних компаній. Ще в липні Хассабіс виступав за створення в Сполучених Штатах організації, відповідальної за тестування найбільш потужних систем ШІ перед їх виходом на ринок. На його думку, основне фінансування для такого органу повинно надходити від самих компаній, які працюють у сфері ШІ.
«Фінансування повинно бути значним, щоб залучити найкращих технічних спеціалістів і забезпечити необхідні обчислювальні потужності для проведення масштабних тестів», — підкреслював Хассабіс.
Розбіжності в підходах до регулювання
Однак, єдиного думки щодо конкретної форми і повноважень такого регулюючого органу поки не існує. Співзасновник і генеральний директор канадської компанії Cohere, Ейдан Гомес, висловив критику на адресу провідних американських розробників, звинувативши їх у спробі формування «картелю» під приводом забезпечення безпеки.
«Системи ШІ, безумовно, потребують запобіжників. У цьому ніхто не сперечається, і так було завжди. Спір йде про те, хто пише правила, кого допускають до участі і чиї інтереси ці правила будуть захищати», — зазначив Гомес у своєму блозі 13 вересня.
В останні тижні побоювання, пов’язані з потенційними загрозами, що виходять від штучного інтелекту, помітно посилилися. Про небезпеки розвитку ШІ попередили навіть колишні співробітники великих технологічних компаній.
9 вересня Джейкоб Коксон, раніше працював у OpenAI, звільнився з Anthropic, заявивши, що компанії, які займаються розробкою ШІ, «грають з нашими життями». 14 вересня Білал Чугтай, колишній дослідник Google DeepMind, підтримав застереження Коксона та інших колег. «Я щиро вірю, що ШІ здатен знищити нас усіх, і часу на запобігання цьому у нас може залишатися все менше», — написав Чугтай у соціальних мережах.
12 вересня генеральний директор Anthropic Дарио Амодей закликав до уповільнення темпів розвитку ШІ. Цю точку зору розділяють голова OpenAI Сем Альтман і Ілон Маск, один з найбагатших людей світу та засновник компанії-розробника ШІ xAI.
Водночас, президент США Дональд Трамп назвав побоювання щодо ризиків ШІ «містифікацією». Генеральний директор Nvidia, Дженсен Хуанг, також виступив з критикою подібних прогнозів. На конференції в Лос-Анджелесі 14 вересня він охарактеризував «похмурі сценарії» про можливе знищення людства штучним інтелектом як «тривожні та безвідповідальні», підкресливши, що вони «не основані на науці».
