Министр Нунес Маркес предупреждает о риске "оптимизированной лжи" от ИИ на выборах

На своем первом публичном мероприятии в качестве председателя Высшего избирательного суда (TSE) в среду, 20-го числа, министр Кассио Нунес Маркес подчеркнул, что управление судом в год всеобщих выборов в условиях развития искусственного интеллекта (ИИ) представляет собой "немалый вызов". По его словам, для судей это "почти полностью неизвестная среда".

"Демократия требует доверия, и в свете вызовов искусственного интеллекта, известного также как ИИ, наша общая задача — обеспечить, чтобы технологии служили инструментом гражданственности, а не манипуляции. Чтобы они способствовали прозрачности, а не сокрытию; демократической инклюзивности, а не искажению воли народа", — заявил министр, открывая семинар "Seta Debate – Искусственный интеллект на выборах 2026" в Бразилиа.

По мнению Нунеса Маркеса, цифровая трансформация напрямую влияет на процесс формирования народной воли, поскольку избирательные процессы стали более динамичными, и ИИ позволяет распространять "технически оптимизированную ложь".

"Избиратель перестает восприниматься исключительно как гражданин, а начинает интерпретироваться как набор данных, предполагаемых предпочтений, эмоциональных уязвимостей и вероятностей реакции. Это институциональный вызов огромной значимости", — заявил он.

Судья также выразил обеспокоенность развитием дипфейков, то есть контента, созданного с помощью ИИ, который реалистично имитирует голос, лицо или движения человека, что облегчает распространение ложной информации.

"Вопрос в следующем: по каким правилам, под каким контролем, в чьих интересах, с какой степенью прозрачности будет осуществляться это влияние (ИИ)?", — задался вопросом министр. "Если ответ будет технически обоснованным, соразмерным и направленным на соблюдение достоинства избирателя, искусственный интеллект сможет укрепить демократию. Если же ответ будет уклончивым или подчиненным частным интересам, это может подорвать доверие к системе".

Нунес Маркес также подчеркнул важность сотрудничества между избирательной юстицией, экспертами, научным сообществом и гражданским обществом для решения технологических вызовов на выборах.

"Я здесь, чтобы в первую очередь слушать, учиться и лучше понимать этот технологический ландшафт, потому что диалог между избирательной юстицией, академическими кругами, экспертами и гражданским обществом будет иметь решающее значение для постоянного совершенствования бразильского избирательного процесса", — заявил он.

Министр отметил техническую работу, проводимую Судом для противодействия возможным угрозам в цифровой среде. "Наша техническая команда интенсивно работает. Я верю, что мы на верном пути к обеспечению гармоничных выборов, гражданского поведения в демократической среде, а также большей ответственности в социальных сетях и виртуальном пространстве", — сказал он.

К выборам 2026 года TSE разработал ряд правил по использованию ИИ в избирательной кампании, направленных на предотвращение создания вводящего в заблуждение контента. Документ был представлен Нунесом Маркесом и единогласно одобрен Судом.

Одно из правил — запрет на распространение дипфейков кандидатов за 72 часа до выборов и в течение 24 часов после них. По словам докладчика Нунеса Маркеса, цель этого — "исключить нежелательные сюрпризы в самый критический период избирательного процесса". В 2024 году TSE уже запрещал публикацию такого рода контента в предвыборном контексте, но не устанавливал временных ограничений для этого запрета.

Постановление также предусматривает солидарную ответственность цифровых платформ (они должны будут платить штрафы или нести другие санкции), если они немедленно не удалят контент и учетные записи, распространяющие в избирательный период материалы, созданные ИИ, которые не имеют надлежащей маркировки или нарушают установленные запреты.

Также провайдерам ИИ запрещается предоставлять, даже по запросу пользователей, рекомендации по кандидатурам, "чтобы предотвратить алгоритмическое вмешательство в процесс принятия решений при голосовании".

Кроме того, любая агитация, использующая изображения, голос или контент, измененный искусственным интеллектом, будь то в печатных или цифровых материалах, должна содержать "явное, выделяющееся и доступное" уведомление о том, что это контент, созданный или измененный ИИ, а также информацию о том, какая технология была использована.