Зміст
Інтелект штучний: ілюзія правди та втрата пильності
Нове дослідження Массачусетського технологічного інституту (MIT) проливає світло на тривожну здатність штучного інтелекту формувати хибні спогади та підривати довіру до власної оцінки реальності. Експеримент, проведений під керівництвом Патті Маеса, показав, як легко люди можуть бути введені в оману навіть простими візуальними маніпуляціями, створеними за допомогою ІІ.
Учасникам експерименту демонструвалася серія реальних фотографій. Потім одній групі показали ті ж знімки, а іншій – версії, змінені алгоритмами. Результати виявилися приголомшливими: люди, які бачили “відредаговані” зображення, не тільки частіше помилялися в деталях оригіналів, але й проявляли вражаючу впевненість у своїх спотворених спогадах. Цей ефект, що отримав назву “ілюзія правди”, свідчить про глибокий вплив дипфейків і згенерованих текстів на наше сприйняття. Дослідники попереджають, що подібне маніпулювання інформацією може мати далекосяжні наслідки, впливаючи на політичні уподобання та знижуючи активність громадян на виборах.
Ціна довіри: коли машина помиляється, а людина не помічає
Навіть за відсутності злонаміреного наміру, штучний інтелект несе в собі потенційну загрозу для об’єктивної істини. Однією з головних проблем є так звані “галюцинації” – коли алгоритми генерують хибні факти, видаючи їх за реальність. Щоб мінімізувати ризики, багато організацій, від державних структур до банків і лікарень, прагнуть впровадити принцип “людина в контурі” (human in the loop). Передбачається, що спеціаліст повинен ретельно перевіряти висновки ІІ перед прийняттям критичних рішень.
Однак, дослідження показують, що люди часто погано помічають помилки, які допускають алгоритми. Більше того, коли згенерована ІІ інформація суперечить власним знанням експерта, відбувається спотворення власної оцінки ситуації на користь технології. Людська пам’ять починає ставитися під сумнів, поступаючись місцем здавалося б непогрішності машини. Ця проблема особливо гостро постає в контексті стрімкого розвитку повністю автономних ІІ-агентів, які покликані усунути людину з процесів контролю.
Від автоматизації до трагедії: коли довіра до машини обертається бідами
Здатність рядових користувачів відрізняти реальний контент від згенерованого штучним інтелектом зараз знаходиться на рівні звичайного вгадування. На цьому фоні розробники активно просувають ідею повністю автономних ІІ-систем, де контроль з боку людини зводиться до мінімуму.
Передача критичних рішень алгоритмам вже призводила до трагічних наслідків. Так, за даними розслідування Міністерства оборони США, авіаудар по школі в Ірані, що забрав життя понад 150 людей, став можливим, зокрема, через надмірну довіру до системи ІІ від Palantir. Система рекомендувала цивільний об’єкт як ціль для удару, спираючись на застарілі дані, а оператори-люди не поставили під сумнів це рішення, демонструючи критичну втрату пильності.
