Быстрое развитие инструментов искусственного интеллекта (ИИ) значительно затрудняет различение реального контента от искусно манипулированных видео и изображений. При этом бразильцы оказались одними из наиболее подверженных влиянию такого рода материалов.
Согласно исследованию компании Veriff, специализирующейся на цифровой верификации личности, 80% бразильцев сталкивались с дипфейками в социальных сетях и онлайн-среде, что значительно выше среднемирового показателя в 60%. Однако, несмотря на это, лишь 29% опрошенных смогли правильно распознать фальшивое видео, и только 35% — определить подлинный контент.
Данное исследование проводится на фоне стремительного развития ИИ-генераторов изображений и видео, что вызывает растущие опасения относительно финансового мошенничества, кражи личных данных и политической дезинформации.
«Всего два года назад люди считали, что могут распознавать дипфейки по заметным ошибкам, таким как лишние пальцы или деформированные части лица. Сегодня эти признаки практически исчезли», — отметила Андреа Розенберг, директор Veriff по развивающимся рынкам.
Исследование включало тест, в котором участникам предлагалось отличить реальный и поддельный контент, включая видео, созданные ИИ, манипулированные изображения и случаи подмены лиц в реальных видео.
Недавно выпущенные технологическими компаниями инструменты поражают высоким уровнем реализма. Среди них Seedance 2.0 от ByteDance (владельца TikTok) и NanoBanana 2 от Google. Эксперты также предупреждают, что открытые ИИ-модели легко доступны преступникам для создания мошеннических схем и поддельных материалов.
По словам Андреа Розенберг, текущий уровень качества делает человеческое восприятие все менее надежным. «Сегодня, имея всего несколько изображений, можно создавать чрезвычайно убедительные симуляции. Человеческий глаз уже не в состоянии безопасно отличить реальность от подделки», — добавила она.
Избирательные правила и рост числа мошенничеств
Исследование также выявило высокую обеспокоенность бразильцев данной проблемой. Около 87% выразили опасения по поводу мошенничества и кражи личных данных с использованием ИИ, а 81% видят потенциальное влияние технологии на политический и избирательный контент.
Дискуссия усилилась в контексте выборов 2026 года. Высший избирательный суд (TSE) ужесточил правила использования искусственного интеллекта в избирательных кампаниях. Материалы, манипулированные ИИ, должны будут четко указывать на факт изменения и используемую технологию.
Правила также запрещают публикацию, перепубликацию или продвижение нового контента, созданного ИИ, за 72 часа до выборов и в течение 24 часов после завершения голосования.
Однако, несмотря на новые меры, синтетический контент уже широко циркулирует на таких платформах, как Instagram и TikTok, особенно в политических публикациях. Проблема усугубляется, когда такие видео начинают распространяться в мессенджерах, где контроль за маркировкой и происхождением контента значительно ограничен.
Последние данные Федеральной полиции подтверждают обеспокоенность: 42,5% зарегистрированных финансовых мошенничеств в Бразилии уже используют инструменты искусственного интеллекта, в особенности дипфейки.
Ввиду этого специалисты рекомендуют проявлять осторожность с контентом, вызывающим сильные эмоции или содержащим срочные призывы, особенно в ситуациях, связанных с финансовыми переводами или обменом личной информацией. Проверка источника материала и подтверждение информации через другие каналы остаются одними из основных способов защиты.