Зміст
Неприступні вершини: чому математика ставить шлагбаум на шляху до безпечного ШІ
Створення штучного інтелекту, який повністю відповідає людським інтересам і гарантує безпеку, — завдання, пов’язане з фундаментальними математичними обмеженнями. Ці перешкоди, rooted in combinatorial explosion та природою обчислювальних задач, роблять повний контроль над поведінкою складних систем ШІ недосяжним, незважаючи на прогрес у технологіях.
Перша стіна: безодня комбінацій
В основі однієї з ключових проблем лежить класична “задача комівояжера” з області комбинаторики. Уявіть собі, що штучному інтелекту доручено знайти оптимальний маршрут для кур’єра, який об’їжджає безліч міст і повертається в початкову точку. Якщо число міст невелике, звичайний комп’ютер впорається із завданням миттєво. Однак експоненціальне зростання складності з кожним доданим містом призводить до астрономічних цифр.
Так, для 10 міст задача вирішується за частки секунди. Але варто збільшити їх кількість до 20, і число можливих маршрутів досягає 2,4 квінтильйона. Розрахунок такої кількості варіантів займе вже 77 років. Для 30 міст ми стикаємося з числом, що має 32 нулі – більше 260 нонілйонів. Навіть найпотужніший сучасний суперкомп’ютер, перебираючи всі ці шляхи, витратив би 8,4 квадрильйона років – це приблизно в 600 тисяч разів більше віку нашого Всесвіту.
Справа в тому, що швидкість зростання кількості комбінацій у таких задачах випереджає будь-які мислимі технологічні досягнення в області прискорення процесорів. Жодне збільшення продуктивності обчислювальних машин не здатне подолати цю фундаментальну особливість.
Друга стіна: межі алгоритмічної доказовості
Окрім обчислювальних обмежень, існує категорія проблем, для яких, в принципі, не існує алгоритмічного рішення. Яскравим прикладом є теорема Райса, підтверджена ще в 1953 році. Вона стверджує, що не існує універсальної програми, здатної автоматично аналізувати довільний програмний код і гарантувати, що його поведінка відповідатиме первісному задуму автора у всіх можливих сценаріях.
Це означає, що ми не можемо створити “чарівну” програму, яка б безумовно підтверджувала безпеку будь-якої іншої програми або системи ШІ.
Чому це критично для безпеки ШІ?
Проблема “вирівнювання” ШІ – тобто забезпечення того, щоб він діяв виключно в інтересах людини, – стикається з обома цими фундаментальними перешкодами.
По-перше, “недостатність часу на перевірку”. Навіть для відносно простої системи безпеки, що складається всього з 6 параметрів з 10 варіантами налаштувань для кожного, знадобиться проаналізувати мільйон комбінацій. У реальних, набагато більш складних системах безпеки, кількість параметрів і їх варіацій обчислюється мільярдами.
По-друге, “неможливість точного доказу”. Гарантувати, що система ШІ буде поводитися безпечно при будь-яких, навіть найнепередбачуваніших вхідних даних або командах, математично неможливо через теорему Райса. З цієї причини дослідники змушені відмовитися від ідеї повного математичного доказу безпеки ШІ і покладатися лише на обмежені, хоча й ретельно продумані, тести.
Квантовий прорив і практичний компроміс
Часто квантові обчислення подаються як панацея для вирішення подібних задач. Дійсно, квантові алгоритми, такі як знаменитий алгоритм Гровера, дозволяють значно прискорити пошук. Наприклад, розрахунок маршруту для 20 міст може бути скорочений з 77 років до двох секунд, а для 30 міст – з квадрильйонів років до шести місяців.
Однак, навіть квантові комп’ютери не усувають проблему, а лише відсувають її. При подальшому збільшенні числа об’єктів або параметрів, вибухове зростання комбінацій знову почне випереджати навіть найсучасніші квантові потужності.
У реальному житті складні задачі, подібні до пошуку ідеального рішення, часто вирішуються шляхом зміни самого підходу. Логістичні компанії, щодня будуючи тисячі маршрутів для вантажівок, використовують спрощені правила. Вони отримують маршрути, які лише на кілька відсотків відхиляються від теоретично ідеального, але при цьому створюються за лічені секунди.
Прикладний ШІ працює за схожим принципом. Розробники створюють системи, які демонструють високу ефективність, не надаючи при цьому абсолютних математичних гарантій. Удосконалення моделей ШІ не змінює законів математики; воно лише робить наближені, статистичні “догадки” системи значно більш точними та надійними.
