Содержание
Ведущие разработчики ИИ объединяются для создания отрасли стандартов
Компании OpenAI, Anthropic и Google, лидеры в области разработки искусственного интеллекта (ИИ), намерены совместно разработать новый саморегулируемый орган. Его целью станет установление отраслевых стандартов, что стало ответом на растущие опасения относительно потенциальных рисков, связанных с бурным развитием технологий ИИ. Об этом стало известно из заявления OpenAI, которое приводит французский телеканал France 24.
Инициатива, озвученная 15 сентября, принадлежит Демису Хассабису, главе Google DeepMind. Он предложил создать структуру, аналогичную Управлению по регулированию финансовой индустрии США (FINRA), которое осуществляет надзор за деятельностью брокеров и инвестиционных компаний. Еще в июле Хассабис выступал за создание в Соединенных Штатах организации, ответственной за тестирование наиболее мощных систем ИИ перед их выпуском на рынок. По его мнению, основное финансирование для такого органа должно поступать от самих компаний, работающих в сфере ИИ.
«Финансирование должно быть значительным, чтобы привлечь лучших технических специалистов и обеспечить необходимые вычислительные мощности для проведения масштабных тестов», — подчеркивал Хассабис.
Разногласия в подходах к регулированию
Однако, единого мнения относительно конкретной формы и полномочий такого регулирующего органа пока не существует. Соучредитель и генеральный директор канадской компании Cohere, Эйдан Гомес, высказал критику в адрес ведущих американских разработчиков, обвинив их в попытке формирования «картеля» под предлогом обеспечения безопасности.
«Системы ИИ, безусловно, нуждаются в предохранителях. В этом никто не спорит, и так было всегда. Спор идет о том, кто пишет правила, кого допускают к участию и чьи интересы эти правила будут защищать», — отметил Гомес в своем блоге 13 сентября.
В последние недели опасения, связанные с потенциальными угрозами, исходящими от искусственного интеллекта, заметно усилились. Об опасностях развития ИИ предупредили даже бывшие сотрудники крупных технологических компаний.
9 сентября Джейкоб Коксон, ранее работавший в OpenAI, уволился из Anthropic, заявив, что компании, занимающиеся разработкой ИИ, «играют с нашими жизнями». 14 сентября Билал Чугтаи, бывший исследователь Google DeepMind, поддержал предостережения Коксона и других коллег. «Я искренне верю, что ИИ способен уничтожить нас всех, и времени на предотвращение этого у нас может оставаться все меньше», — написал Чугтаи в социальных сетях.
12 сентября генеральный директор Anthropic Дарио Амодей призвал к замедлению темпов развития ИИ. Эту точку зрения разделяют глава OpenAI Сэм Альтман и Илон Маск, один из богатейших людей мира и основатель компании-разработчика ИИ xAI.
В то же время, президент США Дональд Трамп назвал опасения относительно рисков ИИ «мистификацией». Генеральный директор Nvidia, Дженсен Хуанг, также выступил с критикой подобных прогнозов. На конференции в Лос-Анджелесе 14 сентября он охарактеризовал «мрачные сценарии» о возможном уничтожении человечества искусственным интеллектом как «тревожные и безответственные», подчеркнув, что они «не основаны на науке».
