Содержание
Искусственный интеллект: иллюзия правды и потеря бдительности
Новое исследование Массачусетского технологического института (MIT) проливает свет на тревожную способность искусственного интеллекта формировать ложные воспоминания и подрывать доверие к собственной оценке реальности. Эксперимент, проведенный под руководством Патти Маэса, показал, как легко люди могут быть введены в заблуждение даже простыми визуальными манипуляциями, созданными с помощью ИИ.
Участникам эксперимента демонстрировалась серия реальных фотографий. Затем одной группе показали те же снимки, а другой – версии, измененные алгоритмами. Результаты оказались ошеломляющими: люди, видевшие “отредактированные” изображения, не только чаще ошибались в деталях оригиналов, но и проявляли поразительную уверенность в своих искаженных воспоминаниях. Этот эффект, получивший название “иллюзия правды”, свидетельствует о глубоком влиянии дипфейков и сгенерированных текстов на наше восприятие. Исследователи предупреждают, что подобное манипулирование информацией может иметь далеко идущие последствия, влияя на политические предпочтения и снижая активность граждан на выборах.
Цена доверия: когда машина ошибается, а человек не замечает
Даже в отсутствие злонамеренного умысла, искусственный интеллект несет в себе потенциальную угрозу для объективной истины. Одной из главных проблем являются так называемые “галлюцинации” – когда алгоритмы генерируют ложные факты, выдавая их за реальность. Чтобы минимизировать риски, многие организации, от государственных структур до банков и больниц, стремятся внедрить принцип “человека в контуре” (human in the loop). Предполагается, что специалист должен тщательно проверять выводы ИИ перед принятием критических решений.
Однако, исследования показывают, что люди зачастую плохо замечают ошибки, допускаемые алгоритмами. Более того, когда сгенерированная ИИ информация противоречит собственным знаниям эксперта, происходит искажение собственной оценки ситуации в пользу технологии. Человеческая память начинает подвергаться сомнению, уступая место кажущейся непогрешимости машины. Эта проблема особенно остро встает в контексте стремительного развития полностью автономных ИИ-агентов, которые призваны устранить человека из процессов контроля.
От автоматизации к трагедии: когда доверие к машине оборачивается бедой
Способность рядовых пользователей отличать реальный контент от сгенерированного искусственным интеллектом сейчас находится на уровне обычного угадывания. На этом фоне разработчики активно продвигают идею полностью автономных ИИ-систем, где контроль со стороны человека сводится к минимуму.
Передача критических решений алгоритмам уже приводила к трагическим последствиям. Так, по данным расследования Министерства обороны США, авиаудар по школе в Иране, унесший жизни более 150 человек, стал возможен, в частности, из-за чрезмерного доверия к системе ИИ от Palantir. Система рекомендовала гражданский объект в качестве цели для удара, основываясь на устаревших данных, а операторы-люди не поставили под сомнение это решение, демонстрируя критическую потерю бдительности.
