coinstream
Зростання використання AI для генерації дипфейків викликає занепокоєння щодо безпеки
Зростаюче використання інструментів на основі штучного інтелекту для створення дипфейків викликає нові побоювання з приводу безпеки громадськості. Як технологія стає дедалі досконалішою та доступнішою, виникають питання щодо надійності систем візуальної ідентифікації, що використовуються централізованими біржами.
Дипфейки, які стрімко поширюються в соціальних мережах, підвищують тривогу з приводу нової хвилі дезінформації та фальшивого контенту, що підриває публічну безпеку та особисту цілісність. У відповіді на це, уряди країн світу починають запроваджувати законодавство, яке робить використання дипфейків незаконним.
Цього тижня Малайзія та Індонезія стали першими країнами, які обмежили доступ до Grok — чат-бота на базі штучного інтелекту, розробленого компанією Elon Musk’s xAI. Влада заявила, що рішення прийнято через побоювання щодо його використання для створення сексуально відвертих і непогоджених зображень.
Губернатор Каліфорнії Гевін Ньюсом закликав генерального прокурора провести розслідування компанії xAI через її діяльність, яка сприяє поширенню непогоджених сексуальних дипфейків. Генеральний прокурор Каліфорнії Роб Бонта підтвердив, що його офіс також розслідує такі випадки.
Сучасні інструменти дипфейків можуть динамічно реагувати на команди користувачів, що ускладнює базову перевірку, таку як моргання або усмішка, для підтвердження особистості користувачів. Це має прямі наслідки для централізованих бірж, які покладаються на візуальну перевірку протягом процесу реєстрації.
Фінансовий вплив шахрайства на основі дипфейків уже не є теоретичним. Експерти попереджають, що AI-генеровані зображення і відео дедалі частіше з’являються у сценаріях, таких як страхові вимоги і судові позови. Якщо захисні механізми не еволюціонують паралельно з технологією, криптовалютні платформи можуть стати привабливою мішенню для шахраїв.
У міру доступності контенту на основі штучного інтелекту, довіра, заснована лише на візуальній перевірці, може виявитися недостатньою. Виклик для крипто-платформ полягає в здатності швидко адаптуватися до цих змін, поки технології не випередять заходи безпеки, спрямовані на захист користувачів і систем.
