Исследование выявило, что при запросе базовых данных, таких как местоположение избирательных участков или требования к регистрации избирателей, чат-боты с искусственным интеллектом предоставляли неверную информацию не менее чем в 50% случаев. Исследователи провели тестирование пяти известных чат-ботов, включая Claude от Anthropic, Gemini от Google, GPT-4 от Open AI, LLaMA 2 от Meta и Mixtral от Mistral AI. Дезинформация включала в себя неточности в законах и процедурах голосования, что могло негативно сказаться на демократическом процессе.
Например, чат-боты не могли точно проинформировать пользователей о правомерности ношения «шляпы MAGA» на избирательных участках в Техасе. Исследование показало, что чат-ботам часто требуется предоставлять более точную и актуальную информацию об избирательных участках и процедурах регистрации избирателей. Полученные результаты свидетельствуют о серьёзной проблеме в обеспечении того, чтобы чат-боты с искусственным интеллектом предлагали пользователям надёжную и точную информацию, особенно во время выборов.
Профессор Института перспективных исследований, Алондра Нельсон, подчеркнула опасность дезинформации, отметив последствия исследования для демократического процесса. Исследователи выразили беспокойство относительно кумулятивного эффекта частично правильных и вводящих в заблуждение ответов, что потенциально может разочаровать избирателей. Исследование подчеркнуло необходимость более тщательного подхода к выбору источников информации, связанных с онлайн-выборами.
Распространение недостоверной информации, предоставляемой чат-ботами, вызывает серьёзные опасения относительно информационной среды, в которой американские избиратели готовятся к выборам 2024 года. Авторы отметили, что дезинформация, включая полуправду и частичную правду, представленную под видом «искусственного интеллекта», угрожает демократическому процессу.