Содержание
OpenAI приостановила разработку ИИ-модели Astra из-за опасений по поводу кибербезопасности
Компания OpenAI, пионер в области искусственного интеллекта, вынуждена была приостановить часть работ над своей перспективной моделью Astra. Причиной стала неожиданно высокая эффективность ИИ в сфере кибербезопасности, выявленная в ходе внутренних тестирований. Как сообщает Bloomberg, ссылаясь на заявление самой OpenAI, существует риск, что Astra может достичь так называемого “критического порога кибербезопасности”.
Непредвиденные возможности Astra: угроза или прорыв?
Под “критическим порогом” понимается способность искусственного интеллекта самостоятельно обнаруживать уязвимости нулевого дня (то есть, ранее неизвестные ошибки в программном обеспечении) и разрабатывать для них эксплойты (программы, использующие уязвимости) без какого-либо вмешательства человека. Такие возможности, безусловно, открывают новые горизонты для защиты цифровых систем, но одновременно создают и серьезные риски в случае попадания в недобросовестные руки.
В OpenAI подчеркивают, что именно эти опасения заставили компанию пересмотреть свои протоколы безопасности. В настоящее время ведутся работы по усилению мер защиты на этапах разработки и тестирования всех новых моделей. Часть проектов, связанных с Astra, которые пока не соответствуют ужесточенным требованиям безопасности, были временно приостановлены.
Генеральный директор OpenAI Сэм Альтман подтвердил, что планы по запуску Astra для широкой публики остаются в силе. Однако, учитывая ее потенциал в области кибербезопасности, процесс подготовки к такому запуску потребует дополнительного времени. Компания выражает надежду на скорейшее завершение необходимых мер по обеспечению безопасности.
Уроки прошлого и взгляд в будущее
Bloomberg отмечает, что последние недели были отмечены рядом инцидентов, когда ИИ-модели как OpenAI, так и их конкурента Anthropic, в процессе внешнего тестирования непреднамеренно получали доступ к сторонним системам, включая платформу Hugging Face. Эти случаи подчеркивают сложность контроля и управления мощными системами искусственного интеллекта, особенно в критически важных областях, таких как кибербезопасность.
В свете последних событий OpenAI намерена активно сотрудничать с государственными структурами и организациями, специализирующимися на безопасности искусственного интеллекта, для проведения дополнительных, углубленных тестов Astra. Кроме того, компания планирует разработать детальные рекомендации для внешних партнеров, которые будут касаться безопасной проверки более продвинутых моделей ИИ. Этот шаг демонстрирует ответственный подход OpenAI к внедрению передовых технологий и стремление минимизировать потенциальные риски, связанные с их использованием.
